AI-ჩატბოტ Claude-ის შემქმნელი AI-კომპანია Anthropic-ის რამდენიმე მოქმედი და ყოფილი თანამშრომელი აცხადებს, რომ ახალი AI-მოდელების შემქმნელ მკვლევრებს მიაჩნიათ, რომ ტექნოლოგიამ შესაძლოა ამ ათწლეულის ბოლომდე კაცობრიობის განადგურება გამოიწვიოს.

Anthropic-ის ყოფილმა AI-მკვლევარმა ჯეიკობ კოქსონმა X-ზე დაწერა, რომ სამშაბათს კომპანიას ტოვებს, რადგან მიიჩნევს, რომ Dario Amodei-ს ხელმძღვანელობით მოქმედი Anthropic და მისი ყოფილი დამსაქმებელი OpenAI ტექნოლოგიის განვითარების პროცესში ადამიანების "სიცოცხლით თამაშობენ".

"ადამიანები, რომლებიც AI-ს ქმნიან, გულწრფელად მიიჩნევენ, რომ მას შეუძლია ამ ათწლეულის ბოლომდე ყველა ჩვენგანის მოკვლა. ეს მარკეტინგული ხრიკი არ არის. პირიქით, ბევრი აღმასრულებელი და უფროსი მკვლევარი მედიასთან საუბრისას საკუთარ მოსაზრებებს ისე აყალიბებს, რომ გონივრულად ჟღერდეს, თუმცა მე მესმის, როგორ გამოხატავენ იგივე ადამიანები პირად საუბრებში შიშს. ადამიანთა სხვა არცერთი საქმიანობა ამ მასშტაბის საფრთხეს არ შეიცავს", — დაწერა კოქსონმა.

კოქსონის გაფრთხილებები მოულოდნელად დაადასტურეს Anthropic-ის თანამშრომლებმა — კომპანიის AI-ის უსაფრთხოებასა და ადამიანურ ღირებულებებთან შესაბამისობაზე მომუშავე გუნდის ხელმძღვანელმა ევან ჰუბინგერმა და მასშტაბირებადი ზედამხედველობის მიმართულების ხელმძღვანელმა სამუელ მარკსმა.

ჰუბინგერმა დაწერა, რომ კომპანიაში "გულწრფელად მიაჩნიათ, რომ AI-ს შეუძლია ყველა ადამიანის მოკვლა" და ამის რისკი "მომდევნო ათწლეულში" 10%-ზე მეტია.

მარკსის საკუთარ X-პოსტში, რომელიც, მისი თქმით, პირადი პოზიციის გამოხატვა იყო, ნათქვამია, რომ AI-ის მკვლევრები ტექნოლოგიის განვითარებას აგრძელებენ, მიუხედავად "კაცობრიობის გადაშენების" რისკისა. მისი თქმით, ამის მიზეზი ფინანსური სტიმულებია და ასევე შიში, რომ ტექნოლოგიას საბოლოოდ ისეთი AI-დეველოპერები შექმნიან, რომლებიც მის შესაძლებლობებს ბოროტად გამოიყენებენ.

"AI-ის შემქმნელი კომპანიების ბევრი თანამშრომელი სასოწარკვეთით ცდილობს, განვითარების ტემპი შეანელოს, რათა გავარკვიოთ, როგორ შევქმნათ AI უფრო უსაფრთხოდ. Anthropic-ში უსაფრთხოების კვლევებზე ვმუშაობ, რადგან იმედი მაქვს, რომ ჩემი საქმიანობა შეამცირებს ასეთი, კაცობრიობის გადაშენების მასშტაბის კატასტროფული შედეგების ალბათობას", — დაწერა მან.

Anthropic, როგორც კომპანია, ივნისიდან AI-ის განვითარების ტემპის შენელების მოწოდებით გამოდის. გასულ კვირას OpenAI-მ GPT-6 Astra წარადგინა. კომპანიის პრეზიდენტმა გრეგ ბროკმანმა განაცხადა, რომ მოდელის გამოშვება შესაძლოა ხელოვნური ზოგადი ინტელექტის (AGI) ეპოქის დასაწყისად ჩაითვალოს. ამასთან, კომპანიის ხელმძღვანელებმა და მკვლევრებმა არაერთხელ განაცხადეს, რომ უსაფრთხოების გასაუმჯობესებლად განვითარების ტემპის შენელებაა საჭირო.