წიგნში "რობოტების ეთიკა", ვენის უნივერსიტეტის მედიისა და ტექნოლოგიების ფილოსოფიის პროფესორმა, მარკ კოკელბერგმა, "2022 წლის ტროლეიბუსის დილემის" შესახებ კითხვა დასვა: რას იზამს თვითმართვადი ავტომობილი, არ შეიცვლის კურსს და ოთხ ადამიანს გადაუვლის, თუ ერთი ადამიანის მოკვლას არჩევს და გზიდან გადაუხვევს?

ტექსტში კოკელბერგი იკვლევს, როგორ აღიქვამენ ადამიანები რობოტებს იმაზე დიდ სისტემად, ვიდრე ისნი არიან, როგორ გადაწყვეტდა საავარიო სიტუაციას ავტონომიური მანქნა და საერთოდაც, ღირს თუ არა ამ შეკითხვაზე ფიქრი.

აიზეკ აზიმოვის საკულტო ნაწარმოების მიხედვით გადაღებულ 2004 წლის ფილმში "მე, რობოტი", ჰუმანოიდი რობოტები კაცობრიობას ეხმარებიან, თუმცა ყველაფერი იდეალურად არ არის. ფილმში არის ეპიზოდი, როცა უბედური შემთხვევისას რობოტი მამაკაცს ჩაძირული ავტომობილიდან გამოიყვანს, თუმცა 12 წლის გოგონას არ ეხმარება. რობოტმა გამოითვალა, რომ კაცს გადარჩენის მეტი შანსი ჰქონდა. ადამიანი, დიდი ალბათობით, ამ შემთხვევაში სხვაგვარად მოიქცეოდა. ფილმში გამოხატულია შიში ხელოვნური ინტელექტის მიმართ და, გარდა ამისა, იკვეთება ეთიკური დილემები, რომელთაც რობოტები განსხვავებულად აღიქვამენ. თუმცა, არის ეს რეალურად რობოტების ეთიკა და ის, რისიც უნდა გვეშინოდეს?

რობოტები უკვე აქ არიან

ჩვეულებრივ, როცა ადამიანები რობოტებზე ფიქრობენ, პირველი რასაც წარმოიდგენენ ძალიან მაღალი ინტელექტის მქონე, ადამიანის მსგავსი ქმნილებაა. რა თქმა უნდა, ეს წარმოდგენა სამეცნიერო ფანტასტიკის ჟანრის წიგნებიდან და ფილმებიდან მოდის. შეთქმულების თეორიის მოყვარულები კი მუდმივად გვაფრთხილებენ, რომ რობოტების მიზანს კაცობრიობის ჩანაცვლება წარმოადგენს.

თავად ტერმინი "რობოტი" ჩეხურად "იძულებით შრომას" ნიშნავს და ის გამოჩენილმა ჩეხმა მწერალმა, კარლ ჩაპეკმა 1921 წლის პიესა R.U.R-ში გამოიყენა. მას შემდეგ ასი წელია გასული, თუმცა მსგავსი წარმოდგენებით ადამიანები ჯერ ისევ ვიკვებებით. მეტიც, ადამიანისა და ხელოვნური ინტელექტის ურთიერთობამ პარადოქსული სახე მიიღო — ჩვენ აღგვაფრთოვანებს ამ სფეროს თითოეული მიღწევა, თუმცა პარალელურად უფრო და უფრო გვაფრთხობს.

თავდაპირველ ლიტერატურულ და კინემატოგრაფიულ წარმოდგენებში რობოტი ძირითადად საშიშია (ტერმინატორის გამოკლებით). 21-ე საუკუნის დასაწყისში კი დასავლეთში რობოტის განსხვავებული აღქმა ყალიბდება: ის ადამიანის კომპანიონი, მეგობარი და პარტნიორიც კია. ამ წარმოდგენის მიხედვით, რობოტი შავი სამუშაოსგან თავისუფალია და ადამიანის ოჯახში პარტნიორად შემოდის.

ამ რომანტიზებულ წარმოდგენას რეალობასთან უფრო ახლოს მივყავართ: რობოტები კი არ მოდიან, არამედ ისინი უკვე აქ არიან. ისინი არ არიან ფრანკენშტეინის მონსტრისა და ტერმინატორის მსგავსი, არამედ ინდუსტრიულ და ზოგჯერ სოციალურ ქმნილებებადაც გვევლინებიან. ლიტერატურული წარმოდგენები შორს იყო მათ ინტელექტთან დაკავშირებითაც: ხელოვნური ინტელექტი ვითარდება, თუმცა ადამიანის ცნობიერებისგან ჯერ ისევ ძალიან, ძალიან შორსაა. მიუხედავად ამისა, ისინი აქ არიან და არსად წასვლას არ აპირებენ. ინდუსტრიის გარდა რობოტებს ჯანდაცვისა და ტრანსპორტირების სფეროებშიც ვიყენებთ.

ხშირად ეს ადამიანის ცხოვრებას ამარტივებს, თუმცა პრობლემები მაინც იქმნება. ზოგი რობოტი საფრთხისშემცველი ნამდვილად შეიძლება იყოს — არა იმიტომ, რომ თქვენს შეცდენას ან მოკვლას ცდილობს (თუმცა მკვლელი და სექს რობოტებიც არსებობენ), არამედ უფრო იმის გამო, რომ ერთ დღეს შეიძლება თქვენი სამუშაო ადგილი დაიკავოს და უმუშევრად დაგტოვოთ. ან მოგატყუოთ და მნიშნველოვანი ინფორმაცია გამოგძალოთ. ეს შიშები რეალობას სამეცნიერო ფანტასტიკაზე მეტად უახლოვდება. რაც უფრო მალე გავერკვევით ტექნოლოგიების რაობაში, მით უფრო მარტივად ავირიდებთ აპოკალიფსურ სიუჟეტებს. ჰუმანოიდი რობოტების უკეთ გასაგებად უნდა დავფიქრდეთ ეთიკურ პრობლემებზე იქამდე, სანამ უარყოფითი ფაქტის წინაშე დავდგებით.

თვითმართვადი ავტომობილები და პასუხისმგებლობა

წარმოიდგინეთ, რომ თვითმართვადი ავტომობილი ვიწრო ზოლში მაღალი სიჩქარით მოძრაობს. ქუჩაში ბავშვები თამაშობენ, ავტომობილს კი ორი არჩევანი აქვს: ან ააცილოს ბავშვებს და კედელს შეასკდეს, რაც მგზავრის სიკვდილს გამოიწვევს ან გააგრძელოს მოძრაობა და ბავშვები გაიტანოს. რას იზამდა ავტომობილი? რას იზამენ ავტომობილები? როგორ უნდა დაპროგრამდნენ ისინი?

ეს აზრობრივი ექსპერიმენტი ე.წ ტროლეიბუსის დილემის ერთ-ერთი ვარიანტია. დილემის კლასიკური მაგალითის მიხედვით, ტროლეიბუსი გადაადგილდება გზაზე, რომელზეც 5 ადამიანია დაბმული. თქვენ დგახართ ბერკეტთან, რომლის გადაწევის შემთხვევაშიც ტროლეიბუსი გადაუხვევს და ერთ ადამიანს გაიტანს. გადაწევდით? თუ არაფერს იზამთ, ხუთი ადამიანი დაიღუპება, თუ ბერკეტს გადაწევთ, ერთის სიკვდილში პირდაპირ იქნებით დამნაშავე. ტროლეიბუსის დილემა ხშირად გამოიყენება თვითმართვადი ავტომობილების შესახებ ადამიანების დასაფიქრებლად. იდეის მიზანი ისაა, რომ ამ ტიპის დილემების შესწავლა, შესაძლოა, ავტომობილს გადაწყვეტილების მიღებაში დაეხმაროს.

მაგალითად, ონლაინ პლატფორმა Moral Machine-მა მომხმარებლების მილიონობით გადაწყვეტილება შეაგროვა, სადაც ისინი ორ ცუდს შორის ნაკლებად ცუდს ირჩევდნენ. პლატფორმა ეკითხებოდა მომხმარებელს, ადამიანები უნდა ყოფილიყო პრიორიტეტი თუ ცხოველები, კაცები თუ ქალები, მგზავრები თუ ფეხით მოსიარულეები და ა.შ. სხვადასხვა კულტურაში, ბუნებრივია, განსხვავებული პრეფერენციები არსებობდა. მაგალითად, ჩინეთსა და იაპონიაში ადამიანები მოხუცებს უფრო იბრალებდნენ, ვიდრე ახალგაზრდებს; გაერთიანებულ სამეფოსა და აშშ-ში კი პირიქით. Moral Machine-ის კვლევამ აჩვენა, რომ ხელოვნური ინტელექტის ეთიკის საკითხს არა მხოლოდ ზოგადი, არამედ კულტურული განსხვავებების კუთხითაც უნდა მივუდგეთ.

ფოტო: MIT Press/Mark Coeckelbergh

ილუსტრაციაზე ტროლეიბუსის დილემის ვარიაციაა გამოსახული: რა უნდა ქნას ავტომობილმა, უნდა შეიცვალოს კურსი და ერთი ფეხით მოსიარულე მოკლას, თუ არაფერი ქნას და ხუთს დაეჯახოს? საბედნიეროდ, დღესდღეობით ასეთ გამოწვევებს ხშირად არ ვაწყდებით, თუმცა ეს არ ნიშნავს რომ მომავალშიც ასე იქნება.

2018 წლის მარტში, თვითმართვად რეჟიმში მყოფმა ავტომობილმა არიზონაში ფეხით მოსიარულე იმსხვერპლა. ავტომობილში მძღოლიც იმყოფებოდა, თუმცა შეჯახების მომენტში მანქანა ავტონომიურ რეჟიმში იყო. ფეხით მოსიარულე ტროტუარზე არ მოძრაობდა და Volvo-ს მარკის ავტომობილმა მასთან მიახლოებისას სიჩქარე არ შეანელა.

2016 წელს Tesla Model S-მა, რომელიც ავტოპილოტის რეჟიმით გადაადგილდებოდა, ვერ აღიქვა სატვირთო ავტომობილი და პირდაპირ შეასკდა, რასაც Tesla-ს მძღოლი შეეწირა. მრავალი ადამიანისთვის მსგავსი უბედური შემთხვევები არა მხოლოდ ტექნოლოგიის ლიმიტების, არამედ შემთხვევაზე პასუხისმგებლობის შესახებაც აჩენს კითხვებს. ავტომობილი პასუხისმგებლობას ვერ აიღებს, ხოლო მონაწილე მხარეთაგან ნებისმიერი შეიძლება იყოს დამნაშავე. როგორ ვაპირებთ ამ გამოწვევებისათვის პასუხის გაცემას არა მხოლოდ ავტომობილების, არამედ სხვა რობოტების შემთხვევაშიც?

როგორც Volvo-ს შემთხვევა გვაჩვენებს, თვითმართვადი ავტომობილები არც მთლად სამეცნიერო ფანტასტიკის სფეროა. ავტომწარმოებლები ამ ტექნოლოგიას ტრასაზე ტესტავენ. მაგალითად, ავტონომიურ ავტომობილებს უკვე აწარმოებენ Tesla, BMW და Mercedes. ამ მანქანების უმრავლესობა სრულად ავტონომიური ჯერ არ არის, თუმცა ყველაფერი აქეთკენ მიდის.

თუ სტატიაში განხილული თემა და ტექნოლოგიების სფერო შენთვის საინტერესოა, შემოგვიერთდი ჯგუფში, სადაც ვლაპარაკობთ ტექნოლოგიებზე.