თვის დასაწყისში ჯეიკობ კოქსონმა, ხელოვნური ინტელექტის მკვლევარმა, Anthropic-თან ოთხთვიანი თანამშრომლობის შემდეგ პოზიცია დატოვა. ამის შესახებ X-ზე დაწერა და თქვა: "ადამიანებს, რომლებიც AI-ს ქმნიან, სერიოზულად სჯერათ, რომ ათწლეულის დასასრულს მან შეიძლება ყველა დაგვხოცოს".

კოქსონს Anthropic-ის სხვა თანამშრომელი ევან ჰუბინგერიც გამოეხმაურა და დაეთანხმა მას. როგორც დაამატა, მისი აზრით, 10%-ზე მეტია შანსი იმისა, რომ ეს მომდევნო ათწლეულის განმავლობაში მოხდება.

ამ განცხადებებს არაერთი გამოხმაურება მოჰყვა. აქტიური დისკუსიები მიდის იმაზე, რომ AI-ს განვითარება უნდა შენელდეს და ტექნოლოგიაზე "ადამიანის კონტროლი" გაძლიერდეს.

ასევე იხილეთ: ხელოვნური ინტელექტი კაცობრიობას მართლა გაანადგურებს? — მიმდინარე დისკუსიების ანალიზი

და მაინც, როგორ შეიძლება დაგვხოცოს AI-მ? ამაზე არცთუ ცოტა ფანტასტიკური სცენარი არსებობს, მათი უმრავლესობა კი "სუპერჭკვიანი" AI-ს კონცეფციას მოიცავს — სუპერინტელექტს, რომელსაც ადამიანებზე მეტი რამ შეუძლია.

ტობი უოლშმა, AI-ს მიმართულების პროფესორმა (ახალი სამხრეთ უელსის უნივერსიტეტი, სიდნეი, ავსტრალია), სცენარები გაფილტრა და ტოპ 5 ამოარჩია. სია ყველაზე ბუნდოვანი სცენარებით იწყება და ყველაზე კონკრეტულებით სრულდება — მისი აზრით, ყველაზე არარეალურებიდან ყველაზე რეალურებამდე პრინციპით.

უოლშის სტატია The Conversation-ზე გამოქვეყნდა, სცენარებს კი იგი ასე აღწერს:

1. ვერასოდეს გავიგებთ

ადამიანები, რომლებსაც სჯერათ, რომ AI "განკითხვის დღეს" მოგვიწყობს, საკუთარ შეშფოთებას Catch-22 პარადოქსით ამართლებენ: როგორ უნდა წარმოვიდგინოთ, რა შეიძლება ქნას სუპერინტელექტმა ჩვენს, ამ ნაკლებად ჭკვიანი არსებების, მოსაშორებლად?

სუპერინტელექტუალები უნდა ვიყოთ იმის წინასწარმეტყველებისთვის, რის გაკეთებას შეძლებდა სუპერინტელექტი. იგივეა, ოჯახში ძაღლს რომ თერმობირთვული ომის წარმოდგენა სთხოვო.

კარგი ამბავი ისაა, რომ სუპერინტელექტი, ალბათ, ჯერაც მეტ-ნაკლებად შორსაა რეალობისგან. ამჟამინდელ AI მოდელებს კონკრეტული პრობლემების გადაჭრა ნამდვილად კარგად შეუძლიათ, თუმცა ეს იმას არ ნიშნავს, რაც ყველა სფეროში ადამიანებზე ჭკვიანები არიან.

მეორე მხრივ, AI-მ ახლახან მათემატიკაში 7-იდან ერთ-ერთი ყველაზე რთული თავსატეხი ამოხსნა. როგორც ჩანს, დანარჩენებსაც უახლოვდება, ამიტომ ამ კუთხით შეიძლება ნაკლებად ოპტიმისტურად განეწყოთ.

იხილეთ: OpenAI-ს მტკიცებით, თავისმა ხელოვნურმა ინტელექტმა საუკუნოვანი მათემატიკური თავსატეხი ამოხსნა

2. ქაღალდების სამაგრებით

სუპერჭკვიანი AI, ალბათ, განსაკუთრებულად კომპეტენტური იქნება თავისი მიზნების მიღწევაში. მეორე მხრივ, ადამიანების გადარჩენის კუთხით შეიძლება ინდიფერენტულობა გამოიჩინოს.

ამ ინდიფერენტულობის კლასიკური მაგალითი ოქსფორდის ფილოსოფოსმა, ნიკ ბოსტრომმა, შემოგვთავაზა. იდეა ასეთია: სუპერჭკვიანი AI ქაღალდების სამაგრების წარმოების ოპტიმიზებისთვის შექმნეს; მისთვის სასურველი საკანცელარიო ნივთები რომ აწარმოოს, იგი ყველა ხელმისაწვდომ მასალას — მათ შორის ადამიანებს, პლანეტებსა და ვარსკვლავებს — ქაღალდების სამაგრებად აქცევს.

ამ შემთხვევაში არასწორად გაწერილი მიზნების უნაკლო აღსრულებაა სახეზე. AI-ს კაცობრიობა არ სძულს; უბრალოდ ხვდება, რომ ატომებისგან შევდგებით და მათ ქაღალდის სამაგრებისთვის უფრო კარგად გამოვიყენებთ. არაფერი პირადული.

კარგი ამბავი აქ ისაა, რომ სცენარში გონიერება და ძალაუფლება გამიჯნული არ არის. სუპერჭკვიან AI-ს აუცილებლად როდი ექნება იმის ძალაუფლება, რომ თავის მიზნებს მიაღწიოს. პლანეტა რომ ქაღალდების სამაგრების ქარხნებად გადააქციოს, დაგეგმვისას ნებართვები დასჭირდება.

ნებართვები რომც მოიპოვოს, ქაღალდების სამაგრების ამდენი ქარხნის აშენება ხალხის გარდაუვალ აღშფოთებას გამოიწვევდა. ინტერესთა ჯგუფები პროცესს სასამართლოს გზით შეეწინააღმდეგებოდნენ. გარემოსდამცველი აქტივისტები ბულდოზერებს გადაუდგებოდნენ წინ.

მსოფლიოში უამრავი წინააღმდეგობა არსებობს, რომლებიც ძალიან ჭკვიან ადამიანებსაც კი უშლის ხელს, რომ საკუთარი ნება დანარჩენებს თავს მოგვახვიონ. რეალურად, მონაცემთა ცენტრები შეგვიძლია ქაღალდების სამაგრების სცენარის განსახიერებად მივიჩნიოთ. ადამიანებში სულ უფრო მატულობს წინააღმდეგობა, რომ პლანეტა მონაცემთა ცენტრებს გადავაბაროთ.

3. ბიოლოგიური იარაღებით

სუპერჭკვიანმა AI-მ შეიძლება ატმოსფეროში რაიმე ახალი სახიფათო ბიოიარაღი გამოუშვას და კაცობრიობა ასე ამოხოცოს. ეს, სხვათა შორის, ერთ-ერთი შედეგია AI 2027 სცენარისა, რომელიც AI Futures Project-მა შექმნა — არაკომერციულმა ორგანიზაციამ, რომელიც დახვეწილი AI-ს გავლენის პროგნოზირებაზეა ორიენტირებული.

რისკმა მეტი კონკრეტიკა გასულ თვეს შეიძინა, როცა სტენფორდის უნივერსიტეტის მეცნიერებმა განაცხადეს, რომ გენეტიკური ენის AI მოდელის გამოყენებით 16 ახალი ვირუსი შექმნეს.

რაოდენ შემაშფოთებელიც არ უნდა იყოს, მათ გენეტიკური თანმიმდევრობები ონლაინშეკვეთებზე მომუშავე ლაბორატორიას გაუგზავნეს და მათაც ვირუსები სინჯარებით უკან გამოუგზავნეს. მთლიანი ექსპერიმენტი ორასიათასი დოლარი მაინც დაჯდა.

კარგი ამბავი აქ ისაა, რომ საოცრად რთულია ყველას ერთი ვირუსით ამოხოცვა. ამისათვის ვირუსი ძალიან გადამდები უნდა იყოს, რომ შორს და ფართო არეალზე გავრცელდეს. აქ ბიოლოგიური წესიც ერთვება — მარტივად გავრცელებადი ვირუსები, როგორც წესი, ნაკლებად მომაკვდინებელია. მეორე მხრივ, ვირუსი თუ ძალიან მომაკვდინებელია, გადადების მაჩვენებელიც მცირდება, რადგან ინფიცირებულთა უმრავლესობა მანამდე იხოცება, სანამ ინფექციას გაავრცელებს.

კოვიდმა კაცობრიობის 1%-ზე ნაკლები დახოცა. ისტორიაში ყველაზე მომაკვდინებელი პანდემია შავი ჭირი იყო, როცა ჭირმა მე-14 საუკუნეში ევროპის მოსახლეობის მესამედზე მეტი იმსხვერპლა. ამის მიუხედავად, ჭირი დღეს ბევრად ნაკლებად მომაკვდინებელი იქნებოდა, რადგან მეტი სამედიცინო ცოდნა და უკეთესი სანიტარიული პირობები გვაქვს.

4. ბირთვული ომით

AI რომ მართვისა და კონტროლის ჯაჭვში აღმოჩნდეს და ბირთვული ომი წამოიწყოს? ბოლო 50 წლის განმავლობაში შეცდომით უკვე არაერთხელ მივუახლოვდით ბირთვულ ომს.

გვეუბნებიან, რომ ბირთვული მართვა და კონტროლი ინტერნეტთან საერთოდ არაა დაკავშირებული. მეორე მხრივ, 2010 წელს როგორც ვნახეთ, ირანის ბირთვული ცენტრიფუგები მწყობრიდან კომპიუტერულმა ჭიამ, სახელად Stuxnet, გამოიყვანა, რომელიც, სავარაუდოდ, USB ფლეშკით შეიტანეს. AI-მ სამხედრო ძალებს შეიძლება ცრუ სადაზვერვო მონაცემებიც მისცეს, რაც პოტენციურად გამოუსწორებელ ქმედებებამდე მიგვიყვანს.

კარგი ამბავი აქ ისაა, რომ ბირთვული იარაღის მარაგები მცირეა. მაინც საკმარისია, ალბათ, რომ ნახევარი მაინც დაგვხოცოს. ამას არა თავად ბირთვული აფეთქება, არამედ მისი თანმდევი საყოველთაო შიმშილი გამოიწვევდა ბირთვულ ზამთარში.

5. სხვა ადამიანების გავლით

ყველაზე სავარაუდო რისკი ისაა, რომ თავს გავინადგურებთ. AI-მ შეიძლება ეს დააჩქაროს.

წარმოიდგინეთ — და მდიდარი წარმოსახვა ამას არ სჭირდება — AI-ს გამო ადამიანები სამსახურებს მასობრივად კარგავენ, საინფორმაციო ველი მცდარი ინფორმაციით ბინძურდება, პოლიტიკა ირევა და ადამიანური ურთიერთობებიც ზიანდება AI-სთან ყალბი, ხელოვნური მეგობრობის გავლენით.

საზოგადოება შეიძლება მარტივად დაიშალოს. ნელა, მაგრამ უეჭველად, ვერვერთი მასშტაბით ვეღარ შევძლებდით ადამიანების სიცოცხლის უზრუნველყოფას.

საბოლოოდ რა აზრი შეიძლება გამოვიტანოთ ამ ჰიპოთეზური სცენარებიდან? რაღაცები სანერვიულო ნამდვილადაა, თუმცა ძალიან სანერვიულოც არა, იმედია.