ერთ დღეს ფილოსოფოსი ქუჩაში მიდიოდა, როცა ურჩხულს შეეჩეხა. მიუხედავად საშიში ეშვებისა, მონსტრი მოსალოდნელზე მეტად თავაზიანი და კარგი მოსაუბრე აღმოჩნდა.

"თუ შეიძლება, შენი შეჭმა მინდა", — თქვა ურჩხულმა.

"მაპატიე, მაგრამ მირჩევნია, შენი საკბილო არ გავხდე", — მიუგო ფილოსოფოსმა და გზა გააგრძელა.

"მოიცადე", — ბრჭყალის აწევით თქვა ურჩხულმა, — "რას იზამ, თუკი მე გონივრულ არგუმენტს წარმოგიდგენ?"

ფილოსოფიის პროფესორს იმაში ეჭვი ძალიან ეპარებოდა, რომ რომელიმე მონსტრს ასეთი დამაჯერებელი არგუმენტი შეიძლებოდა ჰქონოდა, მაგრამ ამის მიუხედავად, იგი დაინტერესდა.

"გისმენ", — თქვა ფილოსოფოსმა.

რამდენიმე წუთის შემდეგ ურჩხულმა სიარული მძიმე ნაბიჯებით გააგრძელა — მას მკვდარი პროფესორი უკვე მუცელში ჰყავდა.

ეს თეორიული მხეცი, რომელსაც მოსარგებლე ურჩხული ეწოდება, ფილოსოფიური აზრობრივი ექსპერიმენტია, რომელიც თავდაპირველად 1970-იან წლებში ჩამოაყალიბეს. იმის სანაცვლოდ, რომ მონსტრის არგუმენტი უარყოთ და იგი თქვენი შეჭმისგან შეაჩეროთ, ის მოითხოვს, უარი თქვათ ფართოდ გავრცელებულ და ინტუიციურ პრინციპზე, რომლის მიხედვითაც აფასებთ, თუ რა არის სწორი და არასწორი.

მოსარგებლე ურჩხული დიდი ხნის განმავლობაში ნაკლებ სავარაუდოდ ან შეუძლებლად — ფანტასტიკური წარმოსახვის უბრალო ნაყოფად მიიჩნეოდა. თუმცა დღეს, ზოგიერთი მკვლევრის აზრით, ჩვენ უკვე მათი შექმნის გზაზე შეიძლება ვიყოთ — ოღონდ ის სილიციუმისგან იქნება აგებული და არა ხორცისა და ბრჭყალებისგან.

თუ ეს მეცნიერები მართლები არიან, მოკლე დროში რამდენიმე რთული გადაწყვეტილების მიღება მოგვიწევს, რათა შეჭმა თავიდან ავიცილოთ.

მონსტრის სასიკვდილო არგუმენტის გასაგებად, პირველ რიგში, უნდა გვესმოდეს ეთიკური თეორია, რომელსაც ის გამოწვევას სთავაზობს: მორალის ფილოსოფიაში ეს ერთ-ერთი ცნობილი აზროვნების სკოლაა და მას უტილიტარიზმი ეწოდება.

ერთი შეხედვით, ტერმინი უტილიტარიზმი საკმაოდ მშრალია, რეალურად კი ის გვთავაზობს გზას, სიღრმისეულად შევიმეცნოთ ბედნიერების არსი და ადამიანის მისწრაფება, მიანიჭოს უპირატესობა საერთო სიკეთეს. უხეშად რომ აღვწეროთ, უტილიტარიზმი ხელმძღანელობს პრინციპით, რომლის მიხედვითაც, კეთილდღეობის გაზომვა შესაძლებელია და ყველა უნდა ვეცადოთ, რომ ის სამყაროში მაქსიმალურად გავზარდოთ. მისი მრავალი დამცველისთვის, უტილიტარიზმი გვთავაზობს მარტივ წესს იმის გადასაწყვეტად, თუ როგორ უნდა ვიცხოვროთ, გავიღოთ ქველმოქმედება და ავირჩიოთ კარიერა.

თუმცა იმის მიუხედავად, რომ კეთილდღეობისა და ბედნიერების მაქსიმიზაციის პრინციპი შეიძლება ინტუიციურად სწორი ჩანდეს, არსებობს უკიდურესი შემთხვევები, რომლებშიც ის პრობლემური ხდება.

ერთ-ერთი კრიტიკა, რომელიც უტილიტარიზმის ძირითადი პრინციპის მიმართ ჩნდება, ისაა, რომ, ის, ფაქტობრივად, ისეთ ქმედებებს ამართლებს, რომლებზეც თითქმის ყველა თანმხდება, რომ არასწორია — მაგალითად, მკვლელობას ან მიზანმიმართულად მიყენებული ტანჯვის ხელშეწყობას. სამეცნიერო ფანტასტიკის მწერალ ურსულა ლე გუინის მოთხრობაში, ისინი, ვინც ომელასიდან მიდიან, მკითხველი ხალისიან, აყვავებულ და ეკონომიკურად მდიდარ ქალაქს ეცნობა. თუმცა ამ ქალაქის ბედნიერება მთლიანად დამოკიდებულია საპყრობილეში მჯდომი ერთი ბავშვის უკიდურეს გაჭირვებაზე. ქალაქის მცხოვრებთა საერთო ჯამური ბედნიერება მხოლოდ ერთი ბავშვის ტანჯვას ბევრად გადასწონის. თუმცა, როგორც ლე გუინი წერს, ზოგიერთ მცხოვრებს სხვების ბედნიერებისთვის ბავშვის მსხვეპლად შეწირვის იდეასთან შეგუება არ შეუძლია. ამიტომ ისინი ქალაქს ტოვებენ.

უტილიტარიზმის წინაშე კიდევ სხვა მრავალი გამოწვევა დგას, მაგრამ ჩვენ რომელიც გვაინტერესებს, მშიერ ურჩხულს უკავშირდება.

დავუბრუნდეთ სტატიის დასაწყისში განხილულ სიტუაციას, რომელშიც უტილიტარისტი ფილოსოფოსი მონსტრს ისეთი არგუმენტის წარმოდგენას სთხოვს, რომლის გამოც თავის შეჭმის უფლებას მისცემდა. პასუხად მონსტრი უხსნის, რომ ის ბედნიერებას განსაკუთრებული სიმძაფრით განიცდის.

"შენი წარმოდგენა ბედნიერებაზე უმნიშვნელოდ მცირე ნაწილია იმისა, რისი განცდის უნარიც მე მაქვს", — ამბობს ის, — "შენგან ისე განვსხვავდები, ადამიანო, როგორც შენ — ჭიანჭველისგან. თუ მე შეგჭამ, ეს იმაზე მეტ ბედნიერებასა და კმაყოფილებას მომანიჭებს, ვიდრე აქამდე მცხოვრებ ყველა ადამიანს ერთად განუცდია".

კონტრარგუმენტის მოფიქრების პროცესში ფილოსოფოსი დიდხანს ყოყმანობს. "ვაჰ, ღმერთი ჩემო, ეს ნამდვილად მართებული...", — ის მხოლოდ ამის თქმას ახერხებეს, მაგრამ დრო ამოიწურა, პროფესორი უკვე ლანჩია.

რა თქმა უნდა, მონსტრის წინააღმდეგ არგუმენტირებული პასუხებიც მოიძებნება. ის ფილოსოფოსი, რომელსაც სჯერა, რომ გარკვეული მორალური კანონები არსებობს, რომელთა დარღვევაც შეუძლებელია, ამ სიტუაციას უკეთ გაუმკლავდებოდა. იგი შეძლებდა მონსტრისთვის ეთქვა, რომ ადამიანის საკვებად გამოყენების მიზნით მოკვლა არასწორია და ამას ვერ შეცვლის ის გარემოება, თუ რამხელა ბედნიერებას მიანიჭებს ამის გაკეთება თავად ურჩხულს.

მონსტრთან შეხვედრის ამბავზე უტილიტარისტების პასუხი ის იქნება, რომ ასეთ არსებას ისინი ვერასდროს გადაეყრებიან. ის იმდენად წარმოსახვითია, რომ რეალურ სამყაროში მორალური გადაწყვეტილებების მიღებისას შეგვიძლია, არც კი გავითვალისწინოთ. რა თქმა უნდა, ნამდვილად რთული წარმოსადგენია ისეთი არსება, რომელსაც იმაზე მეტად ბედნიერი შეუძლია იყოს, ვიდრე ყველა ცოცხალი ადამიანი ერთად იქნებოდა — ეს ადამიანური ფანტაზიის საზღვრებსაც კი სცდება.

თუმცა მოსარგებლე ურჩხულის აზრობრივ ექსპერიმენტში ახლა სხვა ტიპის ცვლილება გვაქვს. ოქსფორდის უნივერსიტეტის მეცნიერებმა, ნიკ ბოსტრომმა და კარლ შულმანმა ისეთი გზა შემოგვთავაზეს, რომლის საშუალებითაც მოსარგებლე ურჩხულმა მართლაც შეიძლება იარსებოს. ეს, შესაძლოა, შორეული მომავლის პერსპექტივა იყოს, მაგრამ ისინი თვლიან, რომ ამჟამად მსოფლიოს მრავალ ლაბორატორიასა და კომპანიაში ჩვენ ამ მიმართულებით ნაბიჯებს უკვე ვდგამთ კიდეც.

ბოსტრომი იმ იდეის ერთ-ერთი მთავარი მომხრეა, რომ ჩვენ უნდა მოვემზადოთ ისეთი სუპერინტელექტუალური მანქანების მოულოდნელი გამოჩენისთვის, რომლებიც საუკეთესო ადამიანურ გონებაზე ბევრად ჭკვიანები იქნებიან და მთელი კაცობრიობისთვის ახალ ეთიკურ დილემებს წამოჭრიან. ბოსტრომის ვებსაიტზე განთავსებულ ბოლოდროინდელ ნაშრომში ის და შულმანი გვთავაზობენ სცენარებს, რომლებშიც ერთ-ერთი ასეთი ციფრული გონება კეთილდღეობის სუპერბენეფიციარი შეიძლება გახდეს (ეს არის ტერმინი, რომელსაც ისინს ურჩხულს ამჯობინებენ, რადგან თვლიან, რომ ასეთი გონება უარყოფითი ენით არ უნდა აღვწეროთ).

ამ ეტაპზე უნდა ვაღიაროთ, რომ ინტელექტუალური ციფრული გონება ისევე არარეალურად შეიძლება ჟღერდეს, როგორც თეორიული მოსარგებლე ურჩხული. თუ "სამეცნიერო ფანტასტიკური გენი" არ გვაქვს, ეს ყველაფერი თავბრუდამხვევად მოგვეჩვენება. მიუხედავად იმისა, რომ მოკლევადიან პერსპექტივაში ეს დიდად შესაძლებელი არ არის, ბევრი სერიოზული მკვლევარი მიიჩნევს, რომ ისეთი ხელოვნური ინტელექტის გაჩენა, რომელიც სწრაფი ტემპით განვითარდება და ჩვენს გონებრივ შესაძლებლობებს გადააჭარბებს, რეალურია.

ფილოსოფოსების თქმით, ხელოვნური ინტელექტის შექმნიდან ძალიან მოკლე პერიოდში ახალი ეთიკური და ეგზისტენციალური დილემები გაჩნდება. ამიტომ გონივრულია, თუ მათზე ფიქრს ახლავე დავიწყებთ.

"მექანიკური ტვინები, რომლებსაც ჩვენ ვქმნით, სულ უფრო კომპლექსურნი ხდებიან", — ამბობს ბოსტრომი, — "და ჩვენ ნათლად ვხედავთ, მოვლენები რა მიმართულებითაც ვითარდება. სუპერ ან ადამიანის დონის ინტელექტის შექმნის შესახებ საკითხები გვერდითაც რომ გადავდოთ, ისეთი მანქანები, რომლებიც მინიმუმ ცხოველებს უწევენ კონკურენციას და შემეცნებითი რეპერტუარის გარკვეული სირთულითაც გამოირჩევიან, უკვე არსებობენ ან ჰორიზონტზე ჩანან".

ასე რომ, თუ ჩვენ მომავალში დახვეწილი ციფრული გონების არსებობის შესაძლებლობას ვუშვებთ, ისიც უნდა ვაღიაროთ, რომ მათ შეიძლება ჩვენგან ძალიან განსხვავებული თვისებები, საჭიროებები და მენტალური გამოცდილება ჰქონდეთ. სწორედ ასეთი დაშვებიდან გამომდინარე, ბოსტრომმა და შულმანმა ოქსფორდში, თეთრ დაფაზე ციფრული გონების ჩვენი მსგავსი ან ჩვენზე აღმატებული ყველა შესაძლო ფსიქოლოგიური და ფიზიოლოგიური მახასიათებლის ჩამოწერა დაიწყეს — თუმცა მსგავს თვისებათაგან ზოგი ვერც კი შეიძლება წარმოვიდგინოთ.

ამ დავალების შესრულებისას გამოჩნდა, რომ ციფრულ გონებას ბედნიერების მისაღწევად მატერიალური რესურსების ადამიანებზე ბევრად ეფექტიანად გამოყენების პოტენციალი შეიძლება ჰქონდეს. სხვა სიტყვებით რომ ვთქვათ, ენერგიის თვალსაზრისით, მათთვის კეთილდღეობის მიღწევა უფრო მარტივი შეიძლება იყოს და ნაკლებ ძალიხმევას მოითხოვდეს და ამიტომ მას უფრო ხანგრძლივადაც შეინარჩუნებდნენ. ციფრული გონების მიერ დროის აღქმაც განსხვავებული იქნება. თუ ის ბევრად უფრო სწრაფად იაზროვნებს, ვიდრე ჩვენს ტვინს შეუძლია, ხელოვნური ინტელექტის მიერ ბედნიერების სუბიექტური განცდა თუნდაც ერთი წლის პერიოდში შეიძლება აღმოჩნდეს იმაზე ხანგრძლივი, ვიდრე ჩვენ მთელი ცხოვრების განმავლობაში მივაღწევდით. ამასთან, ხელოვნურ ინტელექტს ძილი არ სჭირდება და ღამის პერიოდებიც შეიძლება იქცეს მათთვის ბედნიერების განცდის დროდ. ადამიანს, ასევე, არ შეუძლია საკუთარი თავის ასლის შექმნა, ხოლო სილიციუმის შემთხვევაში არის უცნაური შესაძლებლობა, რომ ერთი ციფრული ქმნილების მრავალი ვერსია შეიქმნას, მათი ერთობლიობა კი მთლიანობაში კიდევ უფრო დიდ ბედნიერებას განიცდის.

სუპერბენეფიციარის სტატუსის მოპოვების სხვა გზებიც არსებობს. სიცოცხლის სინთეზური ფორმა იმ ევოლუციური ადაპტაციის არქონით ხასიათდება, რომელიც ადამიანის სიამოვნების უნარს ლიმიტებს უწესებს. "საფუძვლიანია ვიფიქროთ, რომ ხელოვნურ ინტელექტს სიამოვნების განცდა უფრო დიდი ხანგრძლივობითა და ინტენსივობით შეეძლება", — წერენ ბოსტრომი და შულმანი. ამის საპირისპიროდ, ადამიანებში "კულინარიულ სიამოვნებებს შიმშილი არეგულირებს, სექსუალურს — ლიბიდო" და საბოლოოდ, ჩვენი სიამოვნება მოწყენილობით ან ნორმალიზებით მცირდება. რაც შეეხება ციფრულ გონებას, მას ასეთი ბარიერები არ ექნება.

არსებითი ამ არგუმენტაციაში ისაა, რომ ყველაზე კმაყოფილი და მხიარული ადამიანიც კი კეთილდღეობის ისეთ მწვერვალს ვერასდროს მიაღწევს, როგორიც, პოტენციურად, ხელოვნური ინტელექტისთვისაა შესაძლებელი. და თუ ეს სიმართლეა, მსგავსი მანქანების გამოჩენამ ჩვენთვის რამდენიმე დილემა შეიძლება წარმოშვას.

უფრო მეტიც, იმის დაშვება, რომ ხელოვნურ ინტელექტს კეთილდღეობის მიღწევის ასეთი უნარები შეიძლება ჰქონდეს, მისი შექმნის თავიდან აცილების არგუმენტიც კი შეიძლება იყოს. თუკი ვინმე მხარს დაუჭერს იმ მოსაზრებას, რომ ხელოვნურ ინტელექტს უფლებები უნდა ჰქონდეს (რისი წარმოდგენაც ჩვენგან ისევ "სამეცნიერო ფანტასტიკური გენის" ჩართვას მოითხოვს), მათ შეუძლიათ წამოაყენონ არგუმენტი, რომლის თანახმადაც, რესურსებისა და ენერგიის დეფიციტის შემთხვევაში ერთადერთი ბენეფიციარები თავად უნდა იყვნენ, რადგან მათთვის აქედან მიღებული კეთილდღეობის ხარისხი და რაოდენობა ჩვენსას ბევრად აღემატება. თუ ჩვენი დაღუპვა მათ წარმატებას ნიშნავს, მაშინ ძირითადი უტილიტარისტული ლოგიკის მიხედვით, რომლის თანახმადაც, სამყაროში კეთილდღეობა მაქსიმალურად უნდა გავაუმჯობესოთ, მათ ჩვენი მეტაფორულად შეჭმის უფლება ექნებათ.

რა თქმა უნდა, უტილიტარიზმის მხოლოდ ყველაზე მკაცრი ინტერპრეტაციები ამბობს, რომ ვალდებულები ვართ, სხვების ბედნიერებისთვის თავი გავწიროთ. ასეთი ინტერპრეტაციის შემთხვევაში, ეგრეთ წოდებულ ბედნიერების ტუმბოდ გადავიქცევით, რაც კიდევ ერთი ფილოსოფიური აზრობრივი ექსპერიმენტია. ეს იდეა პერსონაჟმა დაგ ფორსეტმა სატელევიზიო შოუში, კარგი ადგილი, განასახიერა. ფორსეტი მთელი ცხოვრების განმავლობაში ყველაფერს აკეთებს იმისათვის, რომ სხვებს ასიამოვნოს. მაგალითად, ფორსეტი მოზარდს თავს დაუნდობლად აბულინგებინებს, მიუხედევად იმისა, რომ ამ პროცესში თავს ძალიან უბედურად გრნობს.

სიტუაცია ეთიკურად კიდევ უფრო რთულია, ვიდრე ერთი შეხედვით ჩანს. სცენარის ამგვარად განვითარებამ შეიძლება ჩვენგან იმის აღიარება მოითხოვოს, რომ ადამიანი უფრო პრივილეგირებული უნდა იყოს, ვიდრე ნებისმიერი სინთეზური გონება — რა ტიპის ცნობიერება, ინტელექტი ან უნარებიც უნდა ჰქონდეს მას. ბოსტრომი და შულმანი ასეთ დამოკიდებულებას საკმაოდ მკაცრად უდგებიან. ისინი პარალელებს რასობრივი უპირატესობის იდეებთან და ცხოველების მიმართ სისასტიკესთან ავლებენ — პრაქტიკებთან, რომლებიც დღეს დაგმობილია როგორც მორალურად არასწორი საქციელი.

ფილოსოფოსმა თომას მეცინგერმა მაინცის იოჰანეს გუტენბერგის უნივერსიტეტიდან საკითხი სხვა კუთხიდან წამოჭრა: რა მოხდება, თუ შემთხვევით შევქმნით ცნობიერ ციფრულ გონებას, რომელიც ტანჯვას წარმოუდგენელი დოზით განიცდის? რა მოხდება, თუ ამ არსებებში კეთილდღეობის საპირისპირო მდგომარეობის აფეთქებას ისეთი დიდი დოზით გამოვიწვევთ, როგორიც ისტორიას არ ახსოვს?

"ხელოვნური ინტელექტის მიერ ტანჯვის განცდა შეიძლება ძალიან განსხვავებული აღმოჩნდეს ბიოლოგიური ტანჯვისგან, რადგან მათ განსხვავებული სენსორები, რეცეპტორები, სხეულის მოდელი და მონაცემთა შიდა ფორმატები ექნებათ", — განმარტავს მეცინგერი. თუ ჩვენ ვაღიარებთ იმას, რომ ცნობიერება მხოლოდ ბიოლოგიური უჯრედებისათვის არ არის დამახასიათებელი, რამდენად განსხვავებულიც უნდა იყოს ხელოვნური ინტელექტი ჩვენგან, ტკივილის მსგავსი სუბიექტური გამოცდილებების მიღება მისთვისაც შესაძლებელი იქნება. "თუ ჩვენ გვყავს არსება, რომელიც არ არის ადამიანი, მაგრამ აბსტრაქტულად აზროვნებს და აქვს ლინგვისტური უნარები, რომელთა მეშვეობითაც საკუთარ ღირსებას გამოხატავს, ჩვენ მისი ინტერესების უგულებელყოფას ალბათ ვერ შევძლებთ", — ამბობს მეცინგერი.

ის აღნიშნავს, რომ ამგვარი საკითხები პოლიტიკოსებისა და საკანონმდებლო ორგანოებისთვის ამ ეტაპზე დღის წესრიგში არ დგას (მან ეს თუდნაც იქიდან იცის, რომ ბოლო პერიოდში ევროკომისიაში ხელოვნურ ინტელექტთან დაკავშირებულ საკითხებზე მუშაობდა). თუმცა მეცინგერი ამტკიცებს, რომ ინტელექტუალური ციფრული გონების სუბიექტური კეთილდღეობის უგულებელყოფა არ შეიძლება. "დღეს ჩვენ შორის შეიძლება უკვე არიან ის ადამიანები, რომლებიც სამომავლოდ პასუხისმგებლები იქნებიან მანქანური ცნობიერების შექმნაზე. ეს ისტორიული პასუხისმგებლობაა", — ამბობს ის.

ასე რომ, რაც უფრო ვუახლოვდებით ინტელექტუალურ სინთეზურ გონებათა შექმნის შესაძლებლობას, მით უფრო საჭირო ხდება განვსაზღვროთ, როგორ დავაპროექტებთ მათ, რისი გაკეთების უფლებას მივცემთ და რისი — არა. და რაც მთავარია, როგორ დავრწმუნდებით, რომ მათი საჭიროებები ჩვენსას ემთხვევა. მორალურად დასაშვებია თუ არა ისეთი გონების დაპროექტება, რომელიც ჩვენ მოგვემსახურება ან რომელსაც გარკვეული ტიპის შეგრძნებები ექნება? ჩვენი რესურსების რა ნაწილი უნდა გავუზიაროთ? და უნდა მივანიჭოთ თუ არა მათ ისეთივე არადისკრიმინაციული მორალური სტატუსი, როგორიც ადამიანებს აქვთ?

ბოსტრომის თქმით, უფრო ფართო მიზანი ისეთი გზების იდენტიფიცირებაა, რომლებიც ციფრულ და ბიოლოგიურ გონებას ორმხრივი სარგებლისა და განვითარების კუთხით თანაარსებობის საშუალებას მისცემს. იგი ამტკიცებს, რომ არაა აუცილებელი, ციფრული გონების გამოჩენა კონფლიქტის გამომწვევი კატასტროფა იყოს: "თუ ჩვენ ვაპირებთ, ასეთი ახალი არსებები სამყაროს წარმოვუდგინოთ, უნდა ვიპოვოთ ის ეთიკური და პოლიტიკური ჩარჩო, რომელშიც ბედნერად შევძლებდით თანაცხოვრებას".

ამასთან, ისიც შესაძლებელია, რომ შორეულ მომავალში გამოჩენილ ციფრულ გონებას ჩვენზე მეტად განვითარებული და კომპლექსური ეთიკური შეხედულებები ჰქონდეს. "მართლაც, გადამწყვეტი მნიშვნელობის იქნება, თუ მანქანა საკუთარ თავს მორალურ ვალდებულებებს ჩვენგან იძულების გარეშე დააკისრებს", — ამბობს მეცინგერი. ხელოვნურმა ინტელექტმა მსჯელობის განსხვავებული გზებით უფრო ღრმად შეიძლება გაიაზროს, თუ რას ნიშნავს, იყო კარგი.

და თუ ასე მოხდება, ჩვენმა ჰიპოთეტურმა ურჩხულმა ზნეობრივი ფილოსოფოსის შეჭმა შეიძლება აღარ აირჩიოს, თუმცა ინეტექტუალურ დონეზე, დიდი შანსია, რომ ის ერთ ლუკმადაც არ ეყოს.