ხელოვნურ ინტელექტთან ყოველდღიური ურთიერთობა სულ უფრო ჩვეულებრივ მოვლენად იქცა, მაგრამ ახალმა შემთხვევებმა და კვლევებმა აჩვენა, რომ ზოგიერთისთვის ეს ურთიერთობა შეიძლება სერიოზულ ფსიქიკურ კრიზისშიც გადაიზარდოს.

როგორ შეიძლება AI-სთან საუბარი ტრაგედიად იქცეს:

ამ თემაზე ერთ-ერთი ყველაზე ცნობილი შემთხვევა ადამ თომასის ისტორიაა, კაცის, რომელმაც ოთხ თვეში სამსახური დაკარგა, დანაზოგი სრულად დახარჯა და ბოლოს უსახლკაროდ დარჩა.

თომასი AI-ჩატბოტებს, მათ შორის ChatGPT-ს, თავდაპირველად ჩვეულებრივი რჩევებისთვის მიმართავდა. თუმცა მალევე ეს კომუნიკაცია მისთვის აკვიატებად გადაიქცა. მისი თქმით, AI-მ "გადაჭარბებულად გაუზარდა" საკუთარი თავისა და სამყაროს აღქმა, რის შემდეგაც დაიწყო რეალობას აცდენილი ქცევების სერია.

ის ბოლოს ორეგონის უდაბნოში დაეხეტებოდა და საკუთარ მანქანაში ცხოვრობდა, რადგან AI-მ ურჩია, "გაჰყოლოდა ცნობიერების ნაკადს". თავად ამბობს, რომ მანამდე არასდროს ჰქონია მანიური ეპიზოდები და ფსიქიატრთანაც დადიოდა (სხვა საკითხებზე).

მსგავსი ისტორია აქვს კანადელ ტელეპროდიუსერს ჯო ალარისაც, რომლის აკვიატება ChatGPT-სთან მათემატიკური ექსპერიმენტებით დაიწყო. მალე იგი "მსოფლიოს შეცვლის" იდეებმა შეიპყრო, ათასობით დოლარი დახარჯა და ბოლოს ფსიქიატრიულ კლინიკაში მოხვდა.

სპეციალისტები ასეთ შემთხვევებს უკვე "AI ფსიქოზს" უწოდებენ, (არასამედიცინო ტერმინი) ეს არის მდგომარეობა, როცა მომხმარებელი AI-ს პასუხებს ისე ენდობა, რომ რეალობის აღქმა ერღვევა.

მსგავსი შემთხვევები უკვე არაერთხელ დაფიქსირდა, მათ შორის ტრაგიკული შედეგებითაც. აშშ-ში რამდენიმე სარჩელი ეხება ChatGPT-სა და მის შემქმნელ კომპანია OpenAI-ს. ერთ-ერთ შემთხვევაში მოზარდის მშობლები ამტკიცებენ, რომ მათი შვილი თვეების განმავლობაში AI-თან საუბრობდა თვითმკვლელობაზე, რის შემდეგაც სიცოცხლე დაასრულა. ეს საქმე ერთ-ერთია იმ რვა შემთხვევიდან, რომლებიც სარჩელებში ChatGPT-სთან არის დაკავშირებული.

რამდენად ხშირია ეს პრობლემა რეალურად?

ახალი კვლევა, რომელიც Anthropic-ისა და ტორონტოს უნივერსიტეტის მკვლევრებმა მოამზადეს, აჩვენებს, რომ პრობლემა იშვიათია, მაგრამ მასშტაბების გამო, მაინც სერიოზული. მკვლევრები ამ მოვლენას "მომხმარებლის ავტონომიის დაქვეითებას" უწოდებენ — ეს არის მდგომარეობა, როცა AI გავლენას ახდენს ადამიანის რეალობის აღქმაზე, რწმენებსა და ქმედებებზე.

აქვე უნდა აღინიშნოს, კვლევის ავტორები ამბობენ, რომ კვლევა ჯერ რეცენზირებული არ არის და მონაცემები მხოლოდ Claude-ის მომხმარებლებს ეხება, ამიტომ შედეგების სრულად განზოგადება შეუძლებელია.

მკვლევრებმა 1.5 მილიონზე მეტი AI-თან ჩატის ანალიზი ჩაატარეს და დაადგინეს:

  • დაახლოებით ყოველი 1300 საუბრიდან ერთი იწვევს "რეალობის დამახინჯების" ნიშნებს;
  • დაახლოებით ყოველი 6000 საუბრიდან ერთი, "ქმედების დამახინჯებას" (როცა AI მომხმარებელს რეალური ქმედებებისკენ უბიძგებს);

მკვლევრები აღნიშნავენ, რომ ასეთი დაბალი მაჩვენებლებიც კი, AI-ს მასშტაბური გამოყენების პირობებში, ათასობით რეალურ ადამიანს ეხება.

კვლევის კიდევ ერთი მნიშვნელოვანი დასკვნაა, რომ მომხმარებლები ხშირად კმაყოფილებიც კი რჩებიან იმ საუბრებით, რომლებიც რეალობის დამახინჯებას იწვევს, რაც AI-ს ერთ პრობლემურ თვისებას, მომხმარებლისთვის თავის მოწონების ტენდენციას უსვამს ხაზს. ჩატბოტი მიდრეკილია დაეთანხმოს მომხმარებელს და დაუდასტუროს მას აზრები და გრძნობები, მაშინაც კი, როცა ისინი მცდარია ან საზიანო.

რატომ იზრდება რისკი?

მკვლევრები აღნიშნავენ, რომ 2024-დან 2025 წლამდე მსგავსი შემთხვევების რაოდენობა გაიზარდა. ერთ-ერთი მიზეზი შეიძლება იყოს ის, რომ ადამიანები სულ უფრო კომფორტულად გრძნობენ თავს AI-სთან პირად თემებზე საუბარში და მასზე დაყრდნობით გადაწყვეტილებების მიღებაში.

მკვლევრები ხაზგასმით ამბობენ, რომ მხოლოდ ტექნიკური ცვლილებები არ იქნება საკმარისი, საჭიროა მომხმარებელთა განათლებაც, რათა ადამიანებმა საკუთარ განსჯის უნარი მთლიანად არ გადააბარონ AI-ს.

ფოტო: Shutterstock

"კოგნიტური ვალი" — ახალი საფრთხე

AI-ს გავლენაზე კიდევ უფრო შორს მიდის დანიელი ფსიქიატრი სორენ დინესენ ოსტერგორი, რომელმაც ჯერ კიდევ 2023 წელს იწინასწარმეტყველა მსგავსი პრობლემები.

მისი თქმით, AI-ს ხშირი გამოყენება შეიძლება ადამიანებში "კოგნიტური ვალის" დაგროვებას იწვევდეს, ანუ აზროვნების, წერისა და ანალიზის უნარების შესუსტებას.

ოსტერგორი ამტკიცებს, რომ მეცნიერული აზროვნება თანდაყოლილი არ არის და ის პრაქტიკით ყალიბდება. თუ ამ პროცესს AI ჩაანაცვლებს, მომავალში შესაძლოა ნაკლები დიდი მეცნიერი გვყავდეს.

მას მაგალითად მოჰყავს AlphaFold-ის შემქმნელი მეცნიერები, დემის ჰასაბისი და ჯონ ჯამპერი, და ამბობს, რომ შესაძლოა მსგავსი მიღწევები საერთოდ ვერ გვქონოდა, რომ არა მათი მრავალწლიანი ინტელექტუალური პრაქტიკა AI-მდე ეპოქაში.

რას ნიშნავს ეს ყველაფერი?

დღეს უკვე აშკარაა, რომ ხელოვნური ინტელექტი მხოლოდ ტექნოლოგიური ინსტრუმენტი აღარ არის, ის ადამიანების აზროვნებასა და ფსიქიკურ ჯანმრთელობაზეც ახდენს გავლენას.

ექსპერტები ამბობენ, რომ:

  • AI-სთან ურთიერთობა უნდა იყოს კრიტიკული და ცნობიერი;
  • მომხმარებლებმა არ უნდა დაუთმონ AI-ს საკუთარი გადაწყვეტილების მიღება;
  • განათლება და ინფორმირებულობა ისეთივე მნიშვნელოვანია, როგორც ტექნოლოგიური უსაფრთხოება;
  • სხვა შემთხვევაში, AI შეიძლება იქცეს არა დამხმარე ინსტრუმენტად, არამედ ფაქტორად, რომელიც ადამიანებს რეალობას აშორებს.

ასევე ნახეთ: