Tiiny AI ამერიკული წამოწყებაა, რომელმაც ცოტა ხნის წინ Tiiny AI Pocket Lab წარადგინა. ეს მოწყობილობა გინესის რეკორდებში შეიყვანეს, როგორც მსოფლიოში ყველაზე პატარა ხელოვნური ინტელექტის (AI) სუპერკომპიუტერი.

მოწყობილობა ვიზუალურად პორტატიულ დამტენს მოგაგონებთ. იგი იმდენად პატარაა, რომ ჯიბეშიც თავისუფლად ჩაგეტევათ. მისმა ზომამ შეცდომაში არ შეგიყვანოთ: სუპერკომპიუტერს 120 მილიარდი პარამეტრის მქონე დიდი ენობრივი მოდელების (LLM) ლოკალურად გაშვება ისე შეუძლია, რომ ღრუბლოვან სერვისებს, გრაფიკულ პროცესორებს (GPU) ან სერვერებს საერთოდ არ დაეყრდნოს.

კომპანიამ ეს სუპერკომპიუტერი 10 დეკემბერს გამოუშვა. მათი განცხადებით, ღრუბლოვანი სერვისებისა და GPU-ს საჭიროების გარდა, ეს გამოგონება ენერგიის ხარჯებსა და უსაფრთხოებასთან დაკავშირებულ რისკებსაც ამცირებს.

კომპანიის წარმომადგენლები ასევე იმედოვნებენ, რომ მათი გამოგონება პირველი ნაბიჯია იმ გზაზე, რომელიც მაღალი დონის ხელოვნურ ინტელექტს საყოველთაოდ ხელმისაწვდომსა და უსაფრთხოს გახდის.

AI Pocket Lab ისეა შექმნილი, რომ ადამიანებმა პროფესიული საქმიანობის შესრულებისასაც კი ყველაფერში გამოიყენონ. მოწყობილობას ინტერნეტის გარეშე იმდენად რთულ ამოცანებთან გამკლავება შეუძლია, როგორებიც რთული მსჯელობა, კონტექსტის ღრმა გაგება, შიგთავსის შექმნა და სენსიტიური ინფორმაციის უსაფრთხო დამუშავებაა.

მოწყობილობა მომხმარებლის მონაცემებს, პრეფერენციებსა და დოკუმენტებს ადგილობრივად ინახავს, თანაც საბანკო დონის დაშიფვრით. სწორედ ამიტომ აქვს მას ღრუბლოვან სერვისებზე დაფუძნებულ AI-თან შედარებით უფრო გრძელვადიანი მეხსიერება და გაძლიერებული უსაფრთხოება.

ამ სუპერკომპიუტერზე 10-იდან 120 მილიარდამდე პარამეტრების მქონე მოდელებია გაშვებული. ეს ნიშნავს, რომ მას GPT-4-ის დონის ინტელექტი აქვს. იმის გათვალისწინებით, რომ იგი მონაცემებს უინტერნეტოდ ინახავს და უსაფრთხოების სტანდარტებიც გაძლიერებულია, ეს ძალიან დიდი მაჩვენებელია.

ახალ სუპერკომპიუტერს ARMv9.2-ის 12-ბირთვიანი ცენტრალური პროცესორი აქვს და 65 ვატამდე ენერგიას მოიხმარს. ეს ნიშნავს, რომ GPU-ებზე დაფუძნებულ ტრადიციულ სისტემებთან შედარებით ეკომეგობრულია, თუმცა მაინც ეფექტიანი.

Tiiny AI Pocket Lab ორ მთავარ ტექნოლოგიას ეყრდნობა. პირველია TurboSparse, რომელიც ეფექტიანობას მხოლოდ აუცილებელი ნეირონების გააქტიურებით ზრდის. მეორეა Powerinfer, რომელიც AI-ის სამუშაო დატვირთვას ცენტრალურ პროცესორსა და ნეირონული დამუშავების განყოფილებას (NPU) შორის ანაწილებს.

თუ სტატიაში განხილული თემა და ხელოვნური ინტელექტის სფერო შენთვის საინტერესოა, შემოგვიერთდი ჯგუფში, სადაც ვლაპარაკობთ ხელოვნურ ინტელექტზე.