წამყვანი AI ლაბორატორიები, აღმასრულებელი დირექტორები და მეცნიერები კანონმდებლებს წერილს უგზავნიან და მოითხოვენ ბიოიარაღისთვის ვარგისი სინთეზური დნმ-ის მიმდევრობების შესყიდვაზე კონტროლის გამკაცრებას.

ხელოვნური ინტელექტის რამდენიმე მსხვილი კომპანიის აღმასრულებელი დირექტორი აშშ-ის კონგრესის წევრებს მოუწოდებს, მიიღონ ახალი კანონები, რომლებიც გაართულებს არაკეთილსინდისიერად მოქმედთათვის მათი ტექნოლოგიების გამოყენებას ბიოლოგიური იარაღის შესაქმნელად.

OpenAI-ის სემ ალტმანი, Anthropic-ის დარიო ამოდეი და Microsoft AI-ის მუსტაფა სულეიმანი სხვებთან ერთად ხელს აწერენ ღია წერილს კანონების მოთხოვნით, რომლებიც სინთეზური დნმ-ისა და რნმ-ის გამყიდველ კომპანიებს ავალდებულებს გენეტიკური მასალის ბოროტად გამოყენების თავიდან ასარიდებლად მომხმარებლებისა და შეკვეთების შემოწმების მექანიზმების გაძლიერებას.

წერილი, რომელიც ორგანიზებულია უპარტიო Institute for Progress-ისა და მემარჯვენე Foundation for American Innovation-ის მიერ, აღიარებს, რომ AI-ის განვითარების ტემპის გათვალისწინებით, "რეალური შესაძლებლობა არსებობს, მნიშვნელოვნად შემცირდეს ცოდნის ბარიერები, რომლებიც ბოროტმოქმედებს ბიოლოგიური იარაღის შეძენაში ისტორიულად უშლიდა ხელს".

"AI სისტემები მაღალტექნიკური ლაბორატორიული პროცედურების შესახებ კითხვებზე პასუხებით ახლა დოქტორანტურის დონის ვირუსოლოგებს სჯობნიან. მტკიცებულებები იმის შესახებ, რას ნიშნავს ეს დღევანდელი ბიოუსაფრთხოებისთვის, ნამდვილად ურთიერთსაწინააღმდეგოა, თუმცა ტენდენცია უდავოა. AI სისტემები სწრაფად უმჯობესდება და მეცნიერებისა და მედიცინისთვის უდიდესი სარგებლის გვერდით, რეალური შესაძლებლობა არსებობს, რომ მნიშვნელოვნად შემცირდეს ცოდნის ბარიერები, რომლებიც ბოროტმოქმედებს ბიოლოგიური იარაღის შეძენაში ისტორიულად ხელს უშლიდა", — ნათქვამია წერილში, რომელსაც ხელს ასევე აწერენ Google DeepMind-ის დემის ჰასაბისი, Y Combinator-ის დამფუძნებელი პოლ გრეჰემი, Stripe-ის აღმასრულებელი დირექტორი პატრიკ კოლისონი, Meta-ს მთავარი AI ოფიცერი ალექსანდრ ვანგი და 2024 წლის ქიმიის დარგში ნობელის პრემიის ლაურეატი, ცილის დიზაინის პიონერი დეივიდ ბეიქერი.

მეცნიერმა არტურ კორნბერგმა პირველად 1950-იან წლებში მოახერხა დნმ-ის სინთეზი. დღეს ეს პროცესი ავტომატიზებულია და მსოფლიოს ათეულობით კომპანია კომერციულ სინთეზატორებს იყენებს სამეცნიერო კვლევისთვის, წამლების შემუშავებისა და დიაგნოსტიკისთვის განკუთვნილი სპეციფიკური გენეტიკური მიმდევრობების "დასაბეჭდად" და გასაყიდად. მრავალი პროვაიდერი მხოლოდ კვალიფიციურ მკვლევრებზე, ბიოტექნოლოგიის კომპანიებსა და საგანმანათლებლო დაწესებულებებზე ყიდის პროდუქციას, თუმცა ყველა მათგანი არ ამოწმებს მომხმარებლებს ან მათ შეკვეთებს.

2017 წელს კანადელმა მკვლევრებმა განგაში ატეხეს, როდესაც 100 000 დოლარის ღირებულების ფოსტით შეკვეთილი დნმ-ის გამოყენებით ცხენის ჩუტყვავილას გადაშენებული ვირუსი აღადგინეს. კრიტიკოსები ამბობდნენ, რომ იგივე მეთოდოლოგია შეიძლება მასთან მჭიდროდ დაკავშირებული სასიკვდილო ვირუსის, ჩუტყვავილას კონსტრუირებისთვის გამოიყენებოდეს. გენური სინთეზი მას შემდეგ კიდევ უფრო გაიაფებულია.

AI-ის სფეროში მიღწეული პროგრესის გათვალისწინებით, ახლა შესაძლებელია დიდი ენობრივი მოდელების გამოყენებით საშიში ახალი ტოქსინებისა და პათოგენების მოდელირება, თუმცა სრულიად ნულიდან ფუნქციონირებადი ვირუსის შესაქმნელად ბიოლოგიის სფეროში გარკვეული ცოდნა სავარაუდოდ მაინც იქნება საჭირო. ბიოტერორისტული თავდასხმები იშვიათია, თუმცა მას შეუძლია გამოიწვიოს მასობრივი მსხვერპლი, საზოგადოებრივი პანიკა და ეკონომიკური ზარალი. მთავარი შეშფოთება ის არის, რომ AI-ით შემუშავებულ პათოგენს შეუძლია განზრახ ან გაუთვალისწინებლად გლობალური პანდემიის გამოწვევა.

"AI ინსტრუმენტები მომხმარებელს საშუალებას აძლევს სწრაფად განსაზღვროს, სად შეუკვეთოს გენეტიკური მიმდევრობები შემოწმების გავლის გარეშე", — ამბობს დეივიდ რელმანი, სტენფორდის უნივერსიტეტის მიკრობიოლოგი და ბიოუსაფრთხოების ექსპერტი, რომელმაც წერილს ხელი მოაწერა — "სათანადო მოთხოვნის შემთხვევაში, მათ შეუძლიათ ასევე გითხრათ, როგორ შეცვალოთ შეკვეთა, რათა შემოწმების ავტორებს კიდევ უფრო გაუჭირდეთ იმის გარკვევა, რის დამზადებას ცდილობთ".

ხელმომწერებს შორის არიან სხვა მეცნიერები, ეროვნული უსაფრთხოების ექსპერტები და გენური სინთეზის კომპანიების Twist Bioscience-ისა და Ansa Biotechnologies-ის აღმასრულებლები. ეს კომპანიები საერთაშორისო გენური სინთეზის კონსორციუმის წევრები არიან, რომელიც 2009 წელს შეიქმნა ნებაყოფლობითი შემოწმების პრაქტიკის დასანერგად. ბევრი კომპანია უკვე იყენებს პროგრამულ უზრუნველყოფას "შემაშფოთებელი მიმდევრობების" შესამოწმებლად, რომლებიც შეიძლება ხელს უწყობდეს ორგანიზმის ტოქსიკურობას ან დაავადების გამოწვევის უნარს.

"თუ გაქვთ ტექნოლოგია, რომელსაც შეუძლია დნმ-ის სინთეზი, მაშინ უნდა დარწმუნდეთ, რომ ის პასუხისმგებლობით გამოიყენება, და ამის ნაწილია იმის გარკვევა, რას ამზადებთ და ვისთვის", — ამბობს ჯეიმს დიგანსი, Twist Bioscience-ის პოლიტიკისა და ბიოუსაფრთხოების ვიცე-პრეზიდენტი. კომპანია წლებია მხარს უჭერს ფორმალური წესების დანერგვას.

ბაიდენის ადმინისტრაციის დროს შემოღებულმა ფედერალურმა სახელმძღვანელო პრინციპებმა ფედერალური დაფინანსების მიმღებ მეცნიერებსა და კომპანიებს დაავალდებულა სინთეზური გენური მიმდევრობები შეუკვეთონ მხოლოდ იმ პროვაიდერებისგან, რომლებიც შესყიდვებს ამოწმებენ. წლის დასაწყისში სენატში შეტანილი ორპარტიული კანონპროექტი გენური სინთეზის ყველა პროვაიდერს, რომელიც აშშ-ში საქმიანობს, ავალდებულებს შეკვეთებისა და მომხმარებლების შემოწმებას მავნე აქტორებსა და საშიშ პათოგენებზე.

თუმცა შემოწმების ინსტრუმენტები სრულყოფილი არ არის. გასულ წელს Microsoft-ის მკვლევრებმა გამოაქვეყნეს კვლევა, რომელიც აჩვენებს, რომ AI-ის ცილის მოდელირების ინსტრუმენტებმა შეძლეს პოტენციურად საშიში გენური მიმდევრობების გენერირება, რომლებმაც კომპანიების შემოწმების პროგრამას გვერდი აუარა. მოდელებმა შემოგვთავაზეს ახალი ცილის მიმდევრობები, რომელთა სტრუქტურა ცნობილი საშიში მიმდევრობებს მსგავსია.

Y Combinator-ის ყოფილი პრეზიდენტი და Safe AI Fund-ის პარტნიორი ჯეფ რალსტონი მიიჩნევს, რომ ბიოლოგიური მოდელების მქონე AI ლაბორატორიებმა თავად უნდა განახორციელონ მომხმარებლების შემოწმება.

"შეუძლებელი თუ არა, ძალიან რთული უნდა იყოს მოდელს სთხოვო დახმარება საშიში რამის კეთებაში", — ამბობს რალსტონი, რომელმაც წერილს ასევე მოაწერა ხელი.

რელმანიც ეთანხმება მოსაზრებას, რომ შემოწმების პროცედურების გარშემო რეგულირება პრობლემის მხოლოდ ნაწილია. "იმის გათვალისწინებით, რომ შემოწმება ზოგიერთ შემთხვევაში შეიძლება ჩავარდეს, კონტროლის სხვა წერტილებიც უნდა გვქონდეს", — ამბობს ის — "სწორედ აქ მოუწევთ AI კომპანიებს ამ გამოწვევასთან გამკლავება".

თუ ხელოვნური ინტელექტი და ამ სფეროში მიმდინარე სიახლეები შენთვის საინტერესოა, შემოგვიერთდი ჩვენს ჯგუფში — AI ყველასთვის