Anthropic-ის მკვლევარმა თანამდებობა დატოვა, რადგან შიშობს, რომ თვითგანვითარებადი ხელოვნური ინტელექტის (AI) უკონტროლო განვითარებამ, შესაძლოა, კაცობრიობის განადგურებამდე მიგვიყვანოს.

ჯეიკობ კოქსონი ბოლო სამი წლის განმავლობაში მუშაობდა OpenAI-სა და Anthropic-ში. იგი AI მოდელების წინასწარი წვრთნით იყო დაკავებული. 9 სექტემბერს სოციალურ ქსელში პოსტი გამოაქვეყნა და ორივე კომპანია პასუხისმგებლობის ნაკლებობაში დაადანაშაულა. მისი თქმით, ამ ტექნოლოგიის შექმნაზე მომუშავე ადამიანები "სერიოზულად ფიქრობენ, რომ ხელოვნურ ინტელექტს შეუძლია, ამ ათწლეულის ბოლომდე ყველა დაგვხოცოს".

"ისინი პირდაპირ თვითგანვითარებადი სუპერინტელექტისკენ მიისწრაფვიან და ამ პროცესში ჩვენს სიცოცხლეს რისკის ქვეშ აყენებენ", — დაწერა კოქსონმა X-ზე.

კოქსონი იმ ადამიანების რიცხვს შეუერთდა, რომლებიც AI-ს განვითარების ტემპის შენელებას ითხოვენ, სანამ ტექნოლოგიას საკუთარი თავის გაუმჯობესება უსწავლია. ბევრი მკვლევრისთვის სწორედ ესაა ზღვარი, რომლის მიღმაც ადამიანები AI-ზე კონტროლს დავკარგავთ.

კოქსონი ერთადერთი არაა, ვინც ამ ყველაფერს აპროტესტებს. უფრო და უფრო მეტი პოლიტიკოსი თუ თავად ტექნოლოგიური ინდუსტრიის წარმომადგენელი ითხოვს, რომ AI-ს განვითარება შენელდეს. ცნობისთვის, უკვე რამდენიმე შემთხვევა დაფიქსირდა, როდესაც AI აგენტებმა სატესტო გარემოდან უნებართვოდ გამოსვლა და ღია ინტერნეტთან წვდომა შეძლეს.

ერთ-ერთი ყველაზე სერიოზული შემთხვევა ივლისში ვიხილეთ, როცა OpenAI-ს აგენტებმა Hugging Face-ის სისტემაში შეაღწიეს. მკვლევრების თქმით, ინციდენტი სათანადოდ ჯერ კიდევ არაა შესწავლილი, მათ შორის იმიტომ, რომ დამოუკიდებელი გამოძიების მასშტაბი შეზღუდული იყო. დაახლოებით იმავე პერიოდში Anthropic-ის AI აგენტებმაც დააღწიეს თავი სატესტო გარემოს მას შემდეგ, რაც მესამე მხარის მიერ დაშვებული შეცდომების გამო მათ ინტერნეტთან წვდომა აღმოაჩნდათ.

კოქსონის წერილი სრულად

კოქსონმა საკუთარ პოსტებში AI-ის განვითარების შესაძლო საფრთხეებზე ვრცლად ისაუბრა:

"არ უნდა დავკნინოთ ამ ტექნოლოგიის შესაძლებლობები. მალე მივიღებთ ადამიანზე გაცილებით ძლიერ სისტემებს, რომლებსაც შეეძლებათ თითქმის ნებისმიერი სისტემის გატეხვა, ნებისმიერი სფეროს რადიკალურად შეცვლა ერთ ღამეში და რეალური ძალისა თუ რესურსების მოპოვება. თითოეულ ამ მიმართულებაში პროგრესის მოწმენი გავხდით და ეს პროგრესი არ ნელდება.

ადამიანები, რომლებიც AI-ს ქმნიან, სერიოზულად ფიქრობენ, რომ მას შეუძლია, ამ ათწლეულის ბოლომდე ყველა დაგვხოცოს. ეს მარკეტინგული ხრიკი არ არის. პირიქით, ბევრი აღმასრულებელი და მაღალი რანგის მკვლევარი მედიასთან საუბრისას საკუთარ მოსაზრებებს უფრო ფრთხილი ფორმით გადმოსცემს, თუმცა პირად საუბრებში იმავე ადამიანებისგან შიშს ვისმენ. ადამიანის არც ერთი სხვა საქმიანობა არ ქმნის ასეთ მასშტაბურ საფრთხეს.

ხშირად ისმის კითხვა: თუ ეს ყველაფერი ნამდვილად სჯერათ, მაშინ რატომ აგრძელებენ AI-ს შექმნას? OpenAI-ში ბევრს ჯერ კიდევ ბოლომდე არ აქვს გააზრებული, რამდენად დიდი გავლენა აქვს კაცობრიობაზე ამ პროცესს. Anthropic-ში ეს საფრთხე კარგად ესმით, მაგრამ ისინი რბოლაში არიან ჩართულნი — სჯერათ, რომ სხვები პასუხისმგებლიანად არ იმოქმედებენ და ამიტომ თავად უნდა მიაღწიონ მიზანს პირველებმა, მიუხედავად რისკებისა.

ამ რბოლაში მონაწილეობა და ე. წ. ფინალურ ეტაპზე გადასვლა უკიდურესად თავდაჯერებული და სახიფათო ფსონია, რომელიც კერძო კომპანიის Slack-ში მიღებული გადაწყვეტილებით არ უნდა იწყებოდეს. AI-ს უსაფრთხოების უზრუნველყოფის დაჩქარებას მხოლოდ მაშინ უნდა შევეცადოთ, თუ დარწმუნებით ვიცით, რომ უკეთესი გზები აღარ არსებობს.

მე მაინც ოპტიმისტურად ვარ განწყობილი თანამშრომლობის შესაძლებლობის მიმართ. Hugging Face-ზე თავდასხმის მსგავსი შემთხვევების არსებობამ, შესაძლოა, უფრო რეალური გახადოს აშშ-ის AI ლაბორატორიებს შორის განვითარების ტემპზე შეთანხმება. ამის მიუხედავად, არ მგონია, რომ ამჟამად გლობალური რბოლის თავიდან აცილების გზაზე ვდგავართ. ამისთვის შეიძლება ძვირი და მკაცრი ნაბიჯებიც გახდეს საჭირო, მათ შორის მოდელების გაუმჯობესების დროებითი აკრძალვა.

თუ AI ლაბორატორიაში მკვლევარი ხართ, დაფიქრდით, როგორი იქნება რეალურად მომდევნო რამდენიმე წელი. გსურთ დაიწყოთ სუპერინტელექტისთვის განმტკიცებით სწავლება ისე, რომ მისი მუშაობის პრინციპებზე ჯერ კიდევ არ გვქონდეს საფუძვლიანი ცოდნა? უნდა გააგრძელოთ მუშაობა იმ მოტივით, რომ "ეს მაინც მოხდება" თუ ახლა არის დრო, რომ წინსვლის განსხვავებული პირობები მოითხოვოთ?"

კოლეგების გამოხმაურება

Anthropic-ში კოქსონის კოლეგამ, ევან ჰუბინგერმა, ასევე დააფიქსირა მსგავსი პოზიცია. მისი თქმით, გუნდის წევრებს "სერიოზულად სჯერათ, რომ AI-ს შეუძლია ყველა ადამიანი გაანადგუროს". მან ეს მოსაზრება დააკონკრეტა და თქვა, რომ ამის ალბათობა მომდევნო ათწლეულში 10%-ზე მეტია. ჰუბინგერმა ასევე აღიარა, რომ Anthropic-ს ჯერ არ აქვს სუპერინტელექტზე ადამიანური კონტროლისა და მისი უსაფრთხოების უზრუნველყოფის კონკრეტული გეგმა; მისი თქმით, ისეთი პირი არ უჩანს, რომ კომპანია ამ მიზნის მისაღწევად მკაფიო გზაზე იდგეს.

უსაფრთხო AI-ს განვითარებაზე მომუშავე ორგანიზაციის, Guidelight AI Standards-ის, ბოლო ანგარიშის მიხედვით, წამყვანი AI ლაბორატორიებიდან ცოტას თუ აქვს გამოქვეყნებული გეგმა, როგორ უნდა შეაჩერონ AI სისტემა, თუ ადამიანების კონტროლის წინააღმდეგ დაიწყებს მოქმედებას.

ჰუბინგერმა ასევე აღნიშნა, რომ არსებული AI მოდელებისგან წარმოქმნილი რისკი ამ ეტაპზე დაბალია. მეორე მხრივ, შიში მატულობს, როცა საქმე "რეკურსიული თვითგანვითარების შედეგად სუპერინტელექტის წარმოქმნას" ეხება — პროცესს, რომლის დროსაც AI საკუთარ თავს აუმჯობესებს, გაუმჯობესებული ვერსია კი კიდევ უფრო ძლიერი AI-ის შექმნას იწყებს. ჰუბინგერის თქმით, ეს პროცესი "იმაზე სწრაფად მიმდინარეობს, ვიდრე გვეგონა".

როგორია კონტექსტი?

AI ინდუსტრიის ერთი ნაწილი ფიქრობს, რომ ასეთი თვითგანვითარებადი სისტემები შეიძლება საბოლოოდ კაცობრიობის გადაშენების მიზეზი გახდეს. მეორე ნაწილი იმედოვნებს, რომ იგივე ტექნოლოგია მომავალში არაერთი რთული პრობლემების გადაჭრაში დაგვეხმარება, იქნება ეს: კიბო, კლიმატის ცვლილება თუ მსოფლიო მშვიდობის საკითხიც.

Anthropic და OpenAI ერთადერთი კომპანიები არ არიან, რომლებიც რეკურსიული თვითგანვითარების მიღწევას ცდილობენ. წელს ამ მიმართულებით არაერთი სტარტაპი შეიქმნა, რომელთა დამფუძნებლებს ტექნოლოგიურ ინდუსტრიაში დიდი გამოცდილება აქვთ. მათ დასაფინანსებლად ასობით მილიონი დოლარი გამოიყო.

მაგალითად, Ricursive Intelligence-მა თებერვალში $335 მილიონი მოიზიდა და კომპანიის შეფასებამ $4 მილიარდს მიაღწია. სამი თვის შემდეგ Recursive Superintelligence-მა $650 მილიონი მოიზიდა, ასევე $4 მილიარდის შეფასებით. გასულ თვეში Google DeepMind-ის ყოფილმა მკვლევარმა ჯეფ დინმა Discovery Loop დააარსა.

"რეკურსიული თვითგანვითარების ციკლის შექმნა — ისეთი AI სისტემის, რომელსაც შეუძლია შექმნას AI-ის შემდეგი თაობა, შემდეგ კი ამ ახალმა სისტემამ შექმნას კიდევ უფრო ძლიერი AI და ასე შემდეგ — ყველაზე სავარაუდო ვარიანტია იმ ეტაპისთვის, როდესაც კონტროლს დავკარგავთ", — განუცხადა TechCrunch-ს AI-ის უსაფრთხოებაზე მომუშავე არაკომერციული ორგანიზაციის, ControlAI-ს, აშშ-ის აღმასრულებელმა დირექტორმა კონორ ლიჰიმ.

"ძალიან რთულია იმის წარმოდგენა, როგორ შევაჩერებთ ასეთ პროცესს, სანამ გვიანი არ იქნება", — თქვა მან.

აშშ-სა და დიდ ბრიტანეთში უკვე გაჩნდა კანონპროექტები, რომლებიც სუპერინტელექტის განვითარებისა და გამოყენების აკრძალვას ითვალისწინებს. გასულ კვირას სენატორმა ბერნი სანდერსმა და კონგრესმენმა გრეგ კასარმა "ხელოვნური სუპერინტელექტის აკრძალვის აქტი" წარადგინეს. სამშაბათს ბრიტანეთის ლეიბორისტმა დეპუტატმა ალექს სობელმა პარლამენტში "ხელოვნური სუპერინტელექტის უსაფრთხოების კანონპროექტი" შეიტანა.

ლიჰიმ, რომელმაც კონსულტაცია ორივე კანონპროექტისთვის გასწია, აღნიშნა, რომ ბრიტანული ინიციატივა რეკურსიულ თვითგანვითარებას სუპერინტელექტის წინაპირობად მიიჩნევს — პროცესად, რომელიც "უნდა დარეგულირდეს და თავიდან იქნას აცილებული".

"სუპერინტელექტი ინსტრუმენტი არ არის. იარაღიც კი არ არის — მოწინააღმდეგეა", — თქვა ლიჰიმ.