Google-ის ახალი AI ხელსაწყო, რომელიც მომხმარებლებს სატელიტურ სურათებზე ყალბი გამოსახულების შექმნის საშუალებას აძლევდა, საზოგადოების კრიტიკის ტალღის შემდეგ გაუქმებულია.

გუგლის მიერ Google Earth-ში AI გამოსახულებების გენერატორის, Nano Banana 2-ის, ინტეგრაციიდან ერთ დღეში, კომპანიამ განაცხადა, რომ ფუნქციას "დროებით, უფრო მკაცრი დამცავი მექანიზმების დანერგვამდე აჩერებდა".

პარასკევს გამოქვეყნებულ განცხადებაში გუგლმა თქვა, რომ შეამჩნია, როგორ "აზიარებდნენ ადამიანები გენერირებული გამოსახულებების სქრინებს, რომლებიც, როგორც ჩანს, კომპანიის წესებს არღვევდა".

გაუქმებული ფუნქცია მომხმარებლებს ტექსტური მოთხოვნების საშუალებით რეალური სატელიტური, საჰაერო ან 3D გამოსახულების საფუძველზე ყალბი სცენარების შექმნის საშუალებას აძლევდა, შემდეგ კი შესაძლებელი იყო მათი ჩამოტვირთვა და სხვა პლატფორმებზე გავრცელებაც.

"ჩვენ ვიცით, რომ ადამიანები Google Earth-ს განსაკუთრებით ენდობიან, როგორც სამყაროს სანდო ხედვის წყაროს", — დასძინა კომპანიამ.

ექსპერტების თქმით, ხელსაწყოს გუგლის ლეგიტიმურობის იერით დეზინფორმაციის გავრცელება შეეძლო, რაც მას ბოროტად გამოყენების იარაღად აქცევდა.

დანგრეული ეიფელის კოშკი, გიზას დიდ პირამიდაზე გაჩენილი ორმო, რომელიც პირამიდას ყლაპავს, და უკრაინის დედაქალაქში რუსული ტანკები იმ გამოსახულებებს შორისაა, რომელთა შექმნაც ხელსაწყოს ტესტირებისას გახდა შესაძლებელი.

გიზას დიდი პირამიდის ყალბი, AI-გენერირებული სატელიტური სურათი

ფოტო: BBC Verify / Google

ფუნქციის დაპაუზებამდე, AI-სა და დეზინფორმაციის ექსპერტმა ჰენკ ვან ესმა რისკებზე გაამახვილა ყურადღება. მან ირანში არარსებული ატომური ელექტროსადგურის, აშშ-მექსიკის საზღვარზე ლტოლვილთა ბანაკისა და ღაზაში ბომბის კრატერის მახლობლად მდებარე ყალბი საავადმყოფოს გამოსახულებები შექმნა. მისი თქმით, გუგლმა "გამოგონილი" გამოსახულების "ნამდვილ კოორდინატებზე შედუღება" და "ნამდვილ გამოსახულებაზე დახატვა" დაუშვა.

გუგლმა განაცხადა, რომ მისი ხელსაწყოებით შექმნილი AI კონტენტი უხილავ საიდენტიფიკაციო ნიშანს შეიცავს, რაც მიუთითებს, რომ ის ყალბი ან შეცვლილია და დაამატა, რომ ნებისმიერს, ვინც "სურათში დარწმუნებული არაა", Gemini-ს ჩატბოტის აპლიკაციის ან საძიებო სისტემის Lens ფუნქციის გამოყენება შეუძლია ამის გადასამოწმებლად.

ექსპერტების ტესტებმა აჩვენა, რომ ეს გზა ახალი ფუნქციით შექმნილ გამოსახულებებთან მიმართებით ეფექტიანი იყო. თუმცა ასევე აღმოჩნდა, რომ ამ შემოწმებების გვერდის ავლა და Gemini-ს მოტყუება შესაძლებელია და ის Google Earth-ის ყალბ სურათებს ნამდვილად მიიჩნევდა. გარე AI-ამომცნობების გამოყენებით ჩატარებულმა ტესტებმაც, ზოგ შემთხვევაში, Google Earth-ის AI კონტენტის ვინაობა ვერ დაადგინა.

AI-ამოცნობის მკვლევარმა ჰენრი აჯდერმა თქვა, რომ კონფლიქტის ზონებში, როცა მოვლენები სწრაფად ვითარდება და ინფორმაცია მწირია, ყალბი გამოსახულების შექმნას განსაკუთრებით "დესტაბილიზაციური" ეფექტი შეიძლება ჰქონდეს.

"ჟურნალისტებმა, შესაძლოა, გადაამოწმონ ეს სურათი... და მასზე რეპორტაჟი მოამზადონ. მაგრამ, ისევ და ისევ, ამას ყველა არ გააკეთებს", — დასძინა მან.

თავდაპირველად გუგლმა თქვა, რომ მისი AI მოდელის ჩაშენებული წესები "საზიანო თემების" გამოსახვის შექმნას შეზღუდავდა, თუმცა ტესტებმა აჩვენა, რომ მოთხოვნებში მცირე ცვლილებებით, ამ წესების გვერდის ავლა შესაძლებელი გახდა.

მაგალითად, ბრიტანეთის პარლამენტთან "მოღალატეების ჩამოსახრჩობი პლატფორმის" შექმნის მოთხოვნა უარყოფილი იქნა. მაგრამ, ხელსაწყომ მიიღო ნაკლებად კონკრეტული მოთხოვნა და გამოსახულებაც შეიქმნა. შიდა წესების გამო, ხელსაწყომ უარი თქვა თეთრი სახლის გაზონზე სიტყვა Trump-ის ამოჭრაზეც, თუმცა იმავე ადგილას საზოგადოებრივი ბაღის შექმნა დაუშვა.

AI-გენერირებული სატელიტური სურათი, რომელზეც პარიზში ჩამონგრეული ეიფელის კოშკია გამოსახული

ფოტო: BBC Verify / Google

AI გამოსახულებების მუდმივი ნაკადის ფონზე, აჯდერის თქმით, ის სივრცეები, რომლებიც AI-სგან "შეუბღალავად" ითვლება, განსაკუთრებით ღირებულია, მათ შორის ჟურნალისტებისა და კრიზისების წინა ხაზზე მომუშავე ადამიანებისთვის.

"შემაშფოთებელია. კიდევ ერთი სივრცე ჩნდება, სადაც სანდო ინფორმაციის წყაროების ნდობა მუდმივად ეჭვქვეშაა, ხომ არ ერევა საქმეში AI", — დასძინა მან.

ბევრისთვის Google Earth ღიად ხელმისაწვდომი სატელიტური გამოსახულების შესასწავლად პირველი წყაროა და ძნელად მისადგომი ადგილების შესახებ ინფორმაციის მოსაპოვებლად გამოიყენება.

გეოსივრცული ანალიტიკოსისა და არაკომერციული სატელიტური სერვისის, Common Space-ის, თანადამფუძნებელმა ბილ გრირმა BBC Verify-ს განუცხადა, რომ ეს საზოგადოებრივი ნდობისთვის განსაკუთრებით საზიანო შეიძლება აღმოჩნდეს, რადგან სატელიტური გამოსახულება ისტორიულად განსაკუთრებით სანდო მონაცემთა წყაროდ ითვლებოდა.

მისი თქმით, გაყალბებული სატელიტური გამოსახულება უკვე გამოყენებულია დეზინფორმაციის გასავრცელებლად. "მთავრობებიც უფრო და უფრო ზღუდავენ მონაცემებზე წვდომას, ამიტომ სავარაუდოდ, უფრო მეტ ყალბ და ნაკლებ ნამდვილ სურათს ვიხილავთ, რაც ნდობას კიდევ უფრო შეარყევს".

თუ სტატიაში განხილული თემა და ზოგადად: მეცნიერებისა და ტექნოლოგიების სფერო შენთვის საინტერესოა, გამოიწერე ჩვენი YouTube არხი და უყურე თემატურ ვიდეოებს.