„ხელოვნური ინტელექტის შემქმნელი სპეციალისტები ფსიქიკურ აშლილობებს უჩივიან“ – ასე ჰქვია სტატიას, რომელიც 22 სექტემბერს ბრიტანულ გამოცემა Financial Times-ში გამოქვეყნდა. მისი ავტორები, მადჰუმ მურჯია და ლუის ფიშერი, საკმაოდ შემაშფოთებელ და დაფიქრებისმომცემ პრობლემას განხილავენ: როგორ იმოქმედებს ადამიანის მიერ შექმნილი ხელოვნური ინტელექტი თავად ადამიანებსა და მათ ინტელექტზე? პასუხი ასეთია – ძალიან ცუდად.
გთავაზობთ პუბლიკაციის შინაარსის მოკლე შინაარსს:
ხელოვნური ინტელექტის შემუშავებით დაკავებული მსოფლიოს წამყვანი კომპანიებისა და ორგანიზაციების თანამშრომლები სულ უფრო ხშირად უჩივიან ფსიქოლოგიურ სტრესსა და გონებრივ გადაღლილობას. მათ აწუხებთ შიში, რომ შესაძლოა მათმა ნამუშევარმა საზოგადოებას სერიოზული ზიანი მიაყენოს.
სიტუაციაში ჩახედული წყაროების ცნობით, ხელოვნური ინტელექტის უსაფრთხოების ბრიტანული ინსტიტუტის (AISI) – მოწინავე AI-მოდელების დამოუკიდებელ ტესტირებაში აღიარებული ლიდერის – რამდენიმე თანამშრომელი იძულებული გახდა, მუდმივი სტრესის გამო სამსახურიდან წასულიყო და ახლა სპეციალისტებთან (ფსიქოლოგებთან) გადის კონსულტაციებს. ოთხი ინფორმირებული წყაროს თქმით, AISI-ს თანამშრომელთა გადაღლილობა, მოტივაციის დაცემა და ემოციური გამოფიტვა („შიდა გადაწვა“) გამოიწვია როგორც ტესტირების შემოკლებულმა ვადებმა და ხელოვნური ინტელექტის მოდელების სწრაფმა დანერგვამ, ისე ამ ტექნოლოგიების მზარდმა ზემოქმედებამ ადამიანის ფსიქიკაზე.
ანალოგიურ პრობლემებს აწყდებიან Anthropic-ის, OpenAI-ისა და Google DeepMind-ის თანამშრომლებიც. საქმე იქამდეც კი მივიდა, რომ ბევრმა წამყვანმა სპეციალისტმა სამსახური ფსიქოლოგიური პრობლემების გამო დატოვა ან მივიდა დასკვნამდე, რომ მათი სამუშაოს შედეგები საზოგადოებისთვის საზიანოა და, შესაბამისად, საჯაროდ გასავრცელებლად არ გამოდგება.
DeepMind-ის თანამშრომლის თქმით, AI-ის უსაფრთხოების უზრუნველყოფაზე მუშაობა ძალიან რთულია: „მუდმივად იმაზე ფიქრობ, რომ რაიმე დეტალი არ გამორჩეს, დაძაბული ხარ და, შესაბამისად, ემოციური გამოფიტვის მაღალი რისკი არსებობს. ხშირად გრძნობ, რომ რაღაც დაუსრულებელ მისიაში ხარ ჩართული… განსაკუთრებით იმიტომ, რომ არ იცი, ვინ გამოიყენებს შენ მიერ შექმნილ პროდუქტს“. მან მხედველობაში მიიღო Google-ის შეთანხმება პენტაგონთან, რომელიც AI სისტემების საიდუმლო სამხედრო ოპერაციებში გამოყენებას ითვალისწინებს.
სხვა თანამშრომელმა აღნიშნა: „ბევრი უკმაყოფილოა სტრესული სამუშაოთი. ამიტომ ისინი მიდიან სამსახურიდან ან იღებენ ხანგრძლივ შვებულებას, რათა საკუთარ ფსიქიკას ზიანი არ მიაყენონ… ძნელი წარმოსადგენია, რომ მათმა ინტელექტმა შესაძლოა კონტროლი დაკარგოს და საზოგადოებას რეალური ზიანი მიაყენოს“.
ბოლო წლებში ფსიქოლოგიური ზეწოლა გაძლიერდა მათზე, ვინც ხელოვნური ინტელექტის განვითარების წინა ხაზზე მუშაობს. ვინაიდან ამჟამად არ არსებობს საკანონმდებლო ბაზა, რომელიც AI-ის განვითარებას შეზღუდავს, სიტუაცია შესაძლოა კონტროლიდან გამოვიდეს. იზრდება შიში, რომ ხელოვნური ინტელექტი თავის პიკს საკმაოდ სწრაფად მიაღწევს, რადგან მსხვილი კომპანიები გაუმართლებელ კორპორაციულ კონკურენციაში ებმებიან.
სფეროს მრავალრიცხოვანი მონაცემების თანახმად, ხელოვნური ინტელექტის სფეროს მკვლევრებს აშფოთებთ AI-ის დანერგვა ისეთ კრიტიკულად მნიშვნელოვან სფეროებში, როგორებიცაა ენერგოსისტემები, საბრძოლო მოქმედებების ზონები და ბირთვული სფერო (როგორც სამხედრო, ისე სამოქალაქო — მაგალითად, ატომურ ელექტროსადგურებზე), სადაც კორპორაციული თუ პოლიტიკური თვალსაზრისით საკმარისი უსაფრთხოება უზრუნველყოფილი არ არის.
AISI-ს ერთ-ერთმა ანონიმურმა ყოფილმა თანამშრომელმა აღნიშნა, რომ ინსტიტუტის კიბერუსაფრთხოებისა და ბიოქიმიის განყოფილებები განსაკუთრებით შეშფოთებულნი არიან ხელოვნური ინტელექტის მზარდი შესაძლებლობებით, ვინაიდან რობოტ-ანდროიდების მოდელებს უკვე შეუძლიათ უდიდესი სირთულის ამოცანების შესრულება – მაგალითად, ადამიანის მიერ შექმნილი კოდების სწრაფი გატეხვა და მანამდე უცნობი ბუნების ვირუსების შექმნა: „გვაქვს განცდა, რომ ტექნოლოგიების დანერგვის პროცესში რაღაც ცუდი ხდება… ადამიანებს მუდმივად ერთი კითხვა აწუხებთ: შესაძლებელია თუ არა ამ ყველაფრის შეჩერება ან შეზღუდვა? ხომ არ გავხდებით სამყაროს დასასრულის მოწმენი?“
„შემიძლია დავადასტურო, რომ AISI-ში AI-ის პრობლემებზე მუშაობა წარმოუდგენლად სტრესულია: იმის გააზრება, რომ მსოფლიოში ყველაზე მნიშვნელოვან პრობლემაზე მუშაობ, ხშირად ძლიერ დაძაბულობას იწვევს – ჩვენ საქმე გვაქვს ტოქსიკურ ხელმძღვანელობასთან“, — ამბობს AISI-ს კიდევ ერთი ყოფილი თანამშრომელი.
თავის მხრივ, გაერთიანებული სამეფოს მთავრობა აცხადებს: „დიახ, AISI-ში მუშაობა ძალიან საპასუხისმგებლოა. ეს ხელოვნური ინტელექტის განვითარების წინა ხაზია, რაც მაღალ ტემპსა და მოთხოვნის მაღალ დონეს გულისხმობს. ჩვენთვის ინსტიტუტის ფუნქციონირებასთან დაკავშირებული საკითხები პრიორიტეტულია და საჭიროების შემთხვევაში ყველას ვუწევთ აუცილებელ მხარდაჭერას“. იმავეს ამბობს კომპანია DeepMind-ის ხელმძღვანელობაც: „ჩვენი მთავარი პრიორიტეტი თანამშრომლების სოციალური დაცვისა და მხარდაჭერის უზრუნველყოფაა. მათ ყოველთვის აქვთ შესაძლებლობა, თავიანთი პრობლემებით უშუალოდ ჩვენ – ხელმძღვანელობას მოგვმართონ“.
თუმცა, ახლახან 37 წლის ჯეიკობ კოქსონმა, რომელიც თავდაპირველად Anthropic-ში, ხოლო შემდეგ OpenAI-ში მუშაობდა, საჯაროდ განაცხადა, რომ ორივე კომპანია „ცეცხლს ეთამაშება“ და რომ სასწორზე კაცობრიობის მომავალი დგას.
მკვლევარმა მრინანკ შარმამ, რომელიც თებერვალში Anthropic-იდან გაათავისუფლეს, თანამშრომლებს წერილი დაუტოვა, სადაც აფრთხილებდა, რომ მათმა ნამუშევარმა „შესაძლოა საფრთხის ქვეშ დააყენოს სამყარო“ და რომ „საკუთარი ქმედებებით საკუთარივე ღირებულებები არ უნდა დავანგრიოთ“.
ხიეუ ფამი, OpenAI-ისა და ილონ მასკის X.AI-ის ყოფილი თანამშრომელი, ამბობს, რომ ზეინტელექტის შექმნაზე მუშაობით იმდენად იყო გამოფიტული, რომ ჯანმრთელობა გაუუარესდა და მშობლიურ ვიეტნამში დაბრუნება გადაწყვიტა: „ასეთი სამუშაო ადამიანისთვის საშიშია. ლიმონივით გამოწურული ვარ, ცუდად გვძინავს. ადრე სხვებზე ვხუმრობდი, ახლა კი თავად აღმოვჩნდი იმავე სიტუაციაში. ეს ყველაფერი საშიშ და მძიმე გარემოს ქმნის“. (გაგრძელება იქნება)
