კაცობრიობის დიდი ნაწილი თანხმდება იმაზე, რომ მომავალი თვითმავალი მანქანებისაა, თუმცა მათი გამართვა მხოლოდ ტექნიკურ დეტალებთან არაა დაკავშირებული. თვითმავალი მანქანების მომრავლება ახალ ეთიკურ პრობლემებს ქმნის: თუ არჩევანის გაკეთება იქნება საჭირო, ვის უნდა დაეჯახოს ის: ახალგაზრდას თუ მოხუცს? ქალს თუ კაცს?

თავისთავად, ეს საკითხი ახალი არაა. მას უკვე მრავალი წელია, ტრამვაის პრობლემის სახელით იცნობენ: წარმოიდგინეთ, რომ ხედავთ, როგორ მიემართება ტრამვაი რელსებზე დაბმული ხუთი ადამიანისკენ. თქვენ დგახართ გადამრთველთან, რომელსაც თუ გადასწევთ, ტრამვაი მთავარი გზიდან გადაუხვევს და სხვა გზას დაადგება, სადაც ერთი ადამიანი წევს.

თქვენ ორი არჩევანი გაქვთ: არაფერი გააკეთოთ და საშუალება მისცეთ ტრამვაის, მთავარ გზაზე ხუთი ადამიანი მოკლას, ან გადაწიოთ ბერკეტი გვერდითა გზისკენ და ერთი ადამიანი შეიწიროთ.

გამოკითხულთა უმრავლესობა ამ სიტუაციაში მოქმედებას ირჩევს, თუმცა არსებობს ამ პრობლემის უამრავი ვერსია - ერთ-ერთ ვარიაციაში ადამიანი, რომელიც გვერდითა გზაზე წევს, თქვენი შვილია.

ცოტა ხნის წინ MIT-მ გამოაქვეყნა ნაშრომი, რომელიც ამ პრობლემატურ საკითხებზე საზოგადოების აზრს აჯამებს. 2016 წელს ჩაეშვა პროექტი, სახელად "მორალური მანქანა", რომლის ფარგლებშიც მომხმარებლები თვითმავალ მანქანებთან დაკავშირებით ეთიკურ გადაწყვეტილებებს იღებდნენ. ონლაინ გამოკითხვაში 233 ქვეყნიდან მილიონობით მომხმარებელი მონაწილეობდა. მათ 40 მილიონზე მეტი ეთიკური არჩევანი გააკეთეს. ყურადღება გამახვილებული იყო დამოუკიდებელ ფაქტორებზე: ქალი VS კაცი, მეტი სიცოცხლე VS ნაკლები სიცოცხლე, ახალგაზრდა VS მოხუცი, ქვეითი VS გზაზე წესების დარღვევით გადმოსული პირი, დაბალი სტატუსის მქონე VS მაღალი სტატუსის მქონე და ასე შემდეგ.

ზოგადი ტენდენციები ადვილი გამოსაცნობია: ადამიანის სიცოცხლე ცხოველისაზე ძვირფასია, მეტი სიცოცხლის გადარჩენა პრიორიტეტულია და ბავშვებს დიდებთან შედარებით უპირატესობა ენიჭებათ. კვლევის ავტორები მოგვიწოდებენ, რომ ეს ინფორმაცია "საშენ მასალად" გამოვიყენოთ და არა გამზადებულ პროგრამად ალგორითმისათვის.

"ჩვენ მხოლოდ იმას ვაჩვენებთ, თუ როგორ ვიღებთ ადამიანები ეთიკურ გადაწყვეტილებებს", - ამბობს ედმონდ ავადი, ნაშრომის თანაავტორი, - "თუმცა როცა საქმე ნორმატიულ ეთიკას ეხება, ანუ როგორ უნდა ვიღებდეთ გადაწყვეტილებებს, სჯობს, ეს საკითხი ექსპერტებს დავუტოვოთ".

მონაცემები მნიშვნელოვნად განსხვავდება ქვეყნების მიხედვით. აზიასა და ევროპაში ერთსა და იმავე ამოცანას სხვადასხვანაირად ჭრიან. შედეგები დამოკიდებულია კულტურაზეც (ინდივიდუალისტური კულტურა VS კოლექტივისტური).

მიუხედავად იმისა, რომ თვითმავალ მანქანებს ჯერ კიდევ დიდი გზა აქვთ გასავლელი, ექსპერტების აზრით, ამ თემაზე საზოგადოებრივი დებატები ნაადრევი სულაც არაა.

"რასაც ახლა გადავწყვეტთ, მომავალში ხელოვნურ ინტელექტსა და რობოტებზეც გავრცელდება, რადგან თვითმავალი მანქანა ამ ტიპის პირველი პროდუქტია, რომელიც მასობრივად დაინერგება", - ამბობს პატრილ ლინი, კალ პოლის უნივერსიტეტის ეთიკისა და მომავლის მეცნიერებების ჯგუფის დირექტორი, - "აუცილებელია, ყველაფერი წინასწარ გავაანალიზოთ, რადგან ამაზე რეალურად იქნება დამოკიდებული ადამიანების სიცოცხლე".

როგორ განსაზღვრავს კულტურა ეთიკურ არჩევანს?

"მორალური მანქანის" შედეგებით რამდენიმე მთავარი პრინციპი გამოიკვეთა, თუმცა ამ ტენდენციებს მსოფლიოს სხვადასხვა წერტილში ერთნაირი სიმძაფრით არ იზიარებენ.

მკვლევრებმა დაადგინეს, რომ აზიასა და შუა აღმოსავლეთში (ჩინეთში, იაპონიასა და საუდის არაბეთში) ახალგაზრდების გადარჩენის ტენდენცია ბევრად სუსტი იყო. ამავე ქვეყნებში ბევრად უფრო დიდ მნიშვნელობას ანიჭებდნენ "საზოგადოებისთვის ღირებული" პირების გადარჩენას, ვიდრე ევროპასა და ჩრდილოეთ ამერიკაში.

კვლევის ავტორები განსხვავებას ინდივიდუალისტური და კოლექტივისტური კულტურებისთვის დამახასიათებელი თავისებურებებით ხსნიან. იმ ქვეყნებში, სადაც აქცენტი ინდივიდზე არ კეთდება, ბავშვების "უპირატესობაც" ნაკლებადაა გამოხატული. მოხუცები არანაკლებ ღირებულ ადამიანებად ითვლებიან, რადგან ისინი მრავალი წელია, საზოგადოებას ემსახურებიან.

კიდევ ერთი ფაქტორი, რომელიც მორალურ გადაწყვეტილებას განსაზღვრავს, ეკონომიკური მდგომარეობაა. ის ქვეყნები, სადაც მთლიანი შიდა პროდუქტი (GDP) დაბალია, ნაკლებად განასხვავებენ გზის უკანონოდ და კანონიერად გადამკვეთებს, რაც სამოქალაქო ინსტიტუტების სისუსტით აიხსნება. გამოკითხვას, ცხადია, სუსტი წერტილებიც აქვს: მაგალითად, მონაწილეთა დიდმა ნაწილმა თავად მიაგნო ამ პროექტს, რაც უკვე ქმნის უზუსტობის საფრთხეს (გამოკითხვაში უმეტესად იმ პირებმა მიიღეს მონაწილეობა, რომელთაც ტექნოლოგიური პროგრესის საკითხები აინტერესებდათ). გარდა ამისა, მომხმარებლებს მხოლოდ ორი არჩევანი ჰქონდათ: მოეკლათ ადამიანთა ერთი ან მეორე ჯგუფი. რეალურ ცხოვრებაში კი გადაწყვეტილებების მიღებაში სხვა რაციონალური ფაქტორებიცაა ჩართული. მაგალითად, თუ გვერდზე გადავუხვევ, შეიძლება ნაკლები სიჩქარით დავეჯახო ქვეითებს და ამით ზიანი შევამცირო...

მეორე მხრივ, გადაწყვეტილების მიღების სირთულე ამ გამოკითხვის მთავარი ღირსებაცაა. მიუხედავად იმისა, რომ მანქანებს ხშირად არ მოუწევთ, აირჩიონ, რომელს შეასკდნენ, X-ს თუ Y-ს, მათ მაინც უნდა იცოდნენ, რა "წონა" აქვს თითოეულ ობიექტს, ეს კი წმინდად ეთიკური საკითხია.

როგორ გარდავსახოთ მონაცემები სამოქმედო გეგმად?

მართალია, კომპანიები ამაზე არ საუბრობენ, მაგრამ თვითმავალ მანქანებში უკვე ჩადებულია ზოგადი "მორალური კომპასი".

2014 წელს Google X-ის დამფუძნებელმა სებასტიან თრუნმა თქვა, რომ კომპანიის თვითმავალი მანქანის პროტოტიპები ორ საგანს შორის უფრო პატარას დაეჯახებოდნენ. 2016 წელს კი გუგლის კიდევ ერთმა წარმომადგენელმა, კრის არმსონმა განაცხადა, რომ მანქანები "მაქსიმალურად ეცდებიან, გვერდი აუარონ დაუცველ ადამიანებს: ქვეითებსა და ველოსიპედისტებს". ამავე წელს მერსედეს ბენცის მენეჯერმა განაცხადა, რომ თვითმავალი მანქანები მასში მსხდომი მგზავრების სიცოცხლეს მიანიჭებდნენ უპირატესობას, თუმცა მოგვიანებით კომპანიამ აღნიშნა, რომ ეს არასწორი ინტერპრეტაცია იყო.

ლოგიკურია, რომ მანქანის მწარმოებლებს არ სურთ, რომ ამ საკითხზე ისაუბრონ. რა პრინციპებითაც არ უნდა იხელმძღვანელონ მათ, ყოველთვის იარსებებენ უკმაყოფილო ადამიანები. ჯერჯერობით თვითმავალ მოწყობილობებს არ შეუძლიათ ერთმანეთისგან ახალგაზრდებისა და მოხუცების გარჩევა. ალგორითმი ერთმანეთისგან ასხვავებს ველოსიპედისტსა და ციყვს, თუმცა ეს ის მაქსიმუმია, რასაც ამ ეტაპზე უნდა დავჯერდეთ.

ამ საკითხზე, კერძო კომპანიების გარდა, ევროკავშირიც მუშაობს. აშშ-ში კონგრესმა პოტენციური რეგულაციების მონახაზი შეიმუშავა, თუმცა ჯერჯერობით უცნობია, ჩაერთვება თუ არა სახელმწიფო ავარიების თანმდევი ეთიკური დილემების გადაწყვეტაში.

პრობლემები, რომლებიც წინ მოგველის, უკვე გამოიკვეთა გერმანიაში - ერთადერთ ქვეყანაში, რომელმაც რეალურად დაიწყო ავტონომიური მანქანებისთვის ეთიკური წესდების შემუშავება. კანონმდებლები აცხადებენ, რომ თითოეული ადამიანის სიცოცხლე თანაბრად ღირებულია და ასაკი და სქესი მხედველობაში არ უნდა მივიღოთ. თუმცა MIT-ის მკვლევარების აზრით, ეს საზოგადოების განწყობას ეწინააღმდეგება. გამოკითხულთა უმრავლესობა ახალგაზრდებს მოხუცებთან შედარებით წინ აყენებს. თუ მანქანებს "ვასწავლით", რომ ყველა სიცოცხლე თანაბრად ღირებულია, როგორ გაუმკლავდება ხელისუფლება გარდაუვალ პროტესტს, როცა ალგორითმი ბავშვებს უფროსების გადასარჩენად შეიწირავს?

კვლევის ავტორების აზრით, მსგავსი კონფლიქტები გარდაუვალია. "მთავარია, მექანიზმი გამჭვირვალე იყოს", - აცხადებს მეცნიერი ავადი, - "თუ ეს პროცესი მიიჩქმალება და მანქანის მწარმოებლები ან კანონმდებლები მოითხოვენ, სიტყვაზე ვენდოთ, ჩიხში აღმოვჩნდებით. ასეთი გადაწყვეტილებების მიღებაში ყველა უნდა ჩაერთოს".