ხელოვნური ინტელექტი უკვე დიდი ხანია, რაც საფინანსო მომსახურების ინდუსტრიაში დამკვიდრდა და აღნიშნულ მიმართულებას პრაქტიკულად უსაზღვრო შესაძლებლობებს აძლევს. ხელოვნურ ინტელექტს შეუძლია გაზარდოს მომსახურების ეფექტიანობა, მოახდინოს პროცესის ოპტიმიზირება, შეამციროს ხარჯები და დახვეწოს სამომხმარებლო გამოცდილება. მისი გამოყენების შესაძლო სცენარები თითქმის ამოუწურავია, დაწყებული მომხმარებელთა მომსახურებითა და მარკეტინგით, გაგრძელებული აქტივების თუ პორტფოლიოს მართვითა და ფასიანი ქაღალდებით ვაჭრობით.

ისეთი ამოცანების შესასრულებლად, როგორიცაა თაღლითობის გამოვლენა, რისკების მართვა და საკრედიტო რეიტინგის განსაზღვრა, ხელოვნური ინტელექტის გამოყენება მნიშვნელოვნად ზრდის ეფექტიანობას, ზოგ შემთხვევაში კი საერთოდ ანაცვლებს გადაწყვეტილების მიმღებ ადამიანურ რესურსს. ხელოვნური ინტელექტის პოტენციალის გამოყენებაზე უარის თქმა ფინანსური ორგანიზაციისთვის, შესაძლოა, დამანგრეველიც კი აღმოჩნდეს. იმ დროს, როცა მუდმივად იზრდება მონაცემთა მოცულობა და, შესაბამისად, მათი დამუშავებისთვის საჭირო დრო და რესურსი, ხელოვნური ინტელექტის გამოყენება სულ უფრო აუცილებელი ხდება.

ტექნოლოგიური პოტენციალის და არსებული მონაცემების მატებასთან ერთად, მზარდი კონკურენციის ფონზე ხელოვნური ინტელექტის გამოყენება საფინანსო მომსახურების სფეროში სულ უფრო დიდ მასშტაბებს შეიძენს. თუმცა, როგორც ნებისმიერი სხვა ტექნოლოგიის შემთხვევაში, მისი დანერგვა მთელ რიგ სირთულეებს უკავშირდება. მარეგულირებელი ორგანოები, მომხმარებლები და ექსპერტები ხშირად მიუთითებენ იმ პრობლემებზე, რომლებიც შეგვიძლია, სამ კატეგორიად დავახარისხოთ:

• მიკერძოება
• პასუხისმგებლობა
• გამჭირვალობა

მიკერძოება

ხელოვნური ინტელექტის მიერ მიღებული გადაწყვეტილებები დღეს საკმაოდ მიკერძოებულია, რის გამოც საზოგადოების გარკვეული ნაწილი გარიყული რჩება. შესაძლოა, ვინმემ იფიქროს, რომ მსგავსი შეცდომები მასშტაბურ ხასიათს არ ატარებს და ამის გამო ავტომატიზირებული პროცესის მიმართ ნაკლებად მომთხოვნები უნდა ვიყოთ. სინამდვილეში კი, მხოლოდ გასული წლის გამოცდილებით რომ ვიმსჯელოთ, ხელოვნური ინტელექტის მიკერძოება იმაზე ფართოდაა გავრცელებული, ვიდრე წარმოგვიდგენია.

ხელოვნურმა ინტელექტმა, შესაძლოა, უმსხვილეს კომპანიებშიც კი დაუშვას მსგავსი შეცდომები. ერთ-ერთი მსგავსი ფაქტის დროს კრიტიკის ქარცეცხლში კომპანია ეფლი გაეხვა, როცა ანალოგიური შემოსავლების მქონე ცოლ-ქმარმა კომპანიის საკრედიტო ბარათების მისაღებად განაცხადი შეავსეს, რის პასუხადაც ცოლმა ქმრის დამტკიცებულ საკრედიტო ლიმიტთან შედარებით 20-ჯერ ნაკლები თანხის განკარგვის უფლება მიიღო. ამასთან, ცოლს ბევრად მაღალი საკრედიტო ქულა ჰქონდა, ვიდრე მის ქმარს. ეფლმა ვერ დაადგინა ხელოვნური ინტელექტის მიერ მიღებული ამ გადაწყვეტილების ზუსტი მიზეზი. შედეგად, მარეგულირებელმა ორგანომ კომპანია ეფლის საკრედიტო ბარათების მომსახურე ორგანიზაციის, Goldman Sachs-ის ამ შეცდომის გამოძიება დაიწყო.

პირობითად, თუ მომხმარებლის გადახდისუნარიანობის შემფასებელ ხელოვნურ ინტელექტს დავალებული აქვს, მოახდინოს შემოსავლების ოპტიმიზირება, მან სუბსტანდარტული კრედიტის გასაცემად, შესაძლოა, დაბალი შემოსავლების მქონე მომხმარებლების ძიება დაიწყოს. მსგავს პრაქტიკას ბევრი არაეთიკურად მიიჩნევს, თუმცა ხელოვნურ ინტელექტს მსგავსი საკითხების გააზრების უნარი არ გააჩნია.

მსგავსი მიკერძოების კიდევ ერთ მიზეზად შეიძლება ჩაითვალოს ის ფაქტი, რომ ხელოვნურ ინტელექტამდე მისული დასამუშავებელი ინფორმაცია ხშირად თავიდანვე მიკერძოებულია და რადგან სისტემას არ გააჩნია დამატებითი ინფორმაციის მიღების ან არასაჭირო ინფორმაციის იგნორირების საშუალება, მომხმარებელი ალგორითმის მხრიდან დისკრიმინაციის მსხვერპლი ხდება.

ხელოვნური ინტელექტის პასუხისმგებლობის საკითხი

მეორე პრობლემური საკითხი უკავშირდება იმას, თუ ვინ აიღებს პასუხისმგებლობას ხელოვნური ინტელექტის მიერ მიღებულ მცდარ გადაწყვეტილებაზე. თუ ჭკვიანმა ავტომობილმა ალგორითმის შეცდომის გამო ადამიანის სიცოცხლეს შეუქმნა საფრთხე, არის თუ არა ეს ავტომობილის მფლობელის პასუხისმგებლობა, რადგან მან დროული რეაგირება ვერ მოახდინა? თუ ეს მხოლოდ ალგორითმის პასუხისმგებლობაა? რა ვადაში უნდა აღმოფხვრას ფინანსურმა ორგანიზაციამ ალგორითმში დაშვებული შეცდომა და უნდა აანაზღაუროს თუ არა ხელოვნური ინტელექტის მიერ მიყენებული ზიანი?

ეს საკმაოდ კომპლექსური ნორმატიული და ეთიკური საკითხებია, რომლებიც მოგვარებას საჭიროებენ. სასიცოცხლოდ მნიშვნელოვანია ტექნოლოგიის მართვა და მისი კონტროლი, განსაკუთრებით მაშინ, როცა ეს მომხმარებლებს უკავშირდება. ზუსტად ამისთვის უნდა არსებობდეს ალგორითმის ანგარიშვალდებულების კონცეფცია, რომელიც მისი სათანადო მართვის საშუალებას იძლევა.

არასაკმარისი გამჭირვალობა

როცა ვსაუბრობთ ხელოვნურ ინტელექტზე, ხშირად გვესმის, რომ ალგორითმების დიდ ნაწილს არ გააჩნია გამჭირვალობისა და ინტერპრეტაციის საკმარისი ხარისხი, რაც ართულებს იმის გარკვევას, თუ რატომ და როგორ იღებს სისტემა ამა თუ იმ გადაწყვეტილებას. ამის გამო რთულდება ხელოვნური ინტელექტის მიკერძოებისა და დისკრიმინაციული ქცევის გამოვლენა.

ახსნადი ხელოვნური ინტელექტი ცვლის თამაშის წესებს

ცალსახაა, რომ საფინანსო ორგანიზაციებისთვის მნივნელოვანია შეიქმნას სახელმძღვანელო ნორმები, რომელიც გამორიცხავს მიკერძოებას, უზრუნველყოფს უსაფრთხოებასა და პირადი ცხოვრების ხელშეუხებლობას, რაც ტექნოლოგიას უფრო პასუხისმგებლიანსა და გასაგებს გახდის. არაა აუცილებელი, ხელოვნური ინტელექტი ერთგვარ შავ ყუთს წარმოადგენდეს. სრულიად შესაძლებელია, გამოინახოს გზები, რათა ის ადამიანებისთვის უფრო გასაგები იყოს. ამ მოთხოვნებს ახსნადი ხელოვნური ინტელექტის (XAI) კონცეფცია პასუხობს.

XAI ფართოდ გავრცელებული ტერმინია, რომელიც ხელოვნური ინტელექტის მიერ ადამიანებისთვის გასაგები და გამჭირვალე გადაწყვეტილებების მიმღებ სისტემებსა და ხელსაწყოებს აერთიანებს. მსგავსი მიდგომის მთავარი უპირატესობა იმაში მდგომარეობს, რომ ადამიანს მარტივად შეუძლია შეიქმნას წარმოდგენა მონაცემებზე, ცვლადებსა და იმ პუნქტებზე, რომლითაც ხელოვნური ინტელექტი იღებს გადაწყვეტილებას. XAI-ს კონცეფციას საფუძველი 2017 წელს ჩაეყარა, ხოლო დღეს დაწინაურებული კვლევის პროექტების სააგენტო, DAPRA ამ კონცეფციის განვითარების ერთ-ერთ წამყვან რგოლს წარმოადგენს. XAI-ს კონცეფციაზე ასევე აქტიურად მუშაობენ ისეთი კომპანიები, როგორებიც არიან გუგლი და მაიკროსოფტი.

დადებითი მხარეების მიუხედავად, XAI-ს რამდენიმე პოტენციური ნაკლიც აქვს. ტექნოლოგია ჯერ ადრეული განვითარების ეტაპზეა. ექსპერტები შიშობენ, რომ XAI-ს მიერ მონაცემების განმარტებები საფრთხეს შეუქმნიან მონაცემების სიზუსტეს. ასევე ბევრი ვარაუდობს, რომ მსგავსი ტიპის სისტემებით მარტივდება კომპანიების IP მისამართების კომპრომეტირება.

როგორც უნდა იყოს, ხელოვნური ინტელექტის წარმატება დამოკიდებულია იმაზე, თუ რამდენად გაჩნდება ტექნოლოგიის მიმართ მაღალი ნდობა. XAI-ს კი ნამდვილად შეუძლია თამაშის წესების შეცვლა ამ ტექნოლოგიაში მეტი გამჭირვალობის შეტანით.