ინფორმაციული ქაოსისკენ მიმავალი გზა: როგორ შლის AI სიმართლის საზღვრებსz
ბოლო თვეებში ინტერნეტში თვალშისაცემად იმატა AI-ით შექმნილმა კონტენტმა — სურათებმა, ვიდეოებმა, ტექსტებმა და „ნამდვილ“ ახალ ამბებად შერაცხულმა მასალებმა. ხშირად
ბოლო თვეებში ინტერნეტში თვალშისაცემად იმატა AI-ით შექმნილმა კონტენტმა — სურათებმა, ვიდეოებმა, ტექსტებმა და „ნამდვილ“ ახალ ამბებად შერაცხულმა მასალებმა. ხშირად ეს მასალები იმდენად დამაჯერებლად გამოიყურება, რომ ადამიანს შეუძლია ადვილად დაუჯეროს, მიუხედავად იმისა, რეალურია თუ არა. ეს ტენდენცია სულ უფრო რთულს ხდის სიზუსტესა და სინამდვილეს შორის გარჩევას.
ახალი ტექნოლოგიები, როგორებიცაა OpenAI-ის Sora, Runway, Midjourney, და სხვა, შესაძლებელს ხდიან რამდენიმე წამში შეიქმნას მაღალი ხარისხის ვიდეო ან ფოტო, სადაც შეიძლება მაგალითად გამოჩნდეს პოლიტიკოსი, რომელიც არასოდეს ყოფილა იმ კონკრეტულ ადგილას ან არასოდეს უთქვამს ის სიტყვები, რაც ვიდეოში ისმის. ეს უკვე აღარ არის ჰოლივუდის სპეცეფექტი — ეს ინსტრუმენტები ყველასთვის ხელმისაწვდომია და დიდხანს არც ტექნიკური ცოდნა სჭირდება.
სინთეტური (ე.წ. deepfake) მასალები უკვე გამოიყენება როგორც პოლიტიკური იარაღი. მაგალითად, აშშ–ის 2024 წლის საპრეზიდენტო კამპანიამდე რამდენიმე თვით ადრე გაჩნდა ყალბი აუდიოჩანაწერი, თითქოს ბაიდენი ხმის მიცემის პროცესის მანიპულირებას აპირებდა. მსგავსი შემთხვევები დაფიქსირდა ინდოეთში, აფრიკის ქვეყნებში და ევროკავშირის ზოგიერთ წევრ სახელმწიფოშიც. ამ ყველაფერმა ცალკეული პლატფორმები აიძულა დროებით ან მუდმივად დაბლოკონ გარკვეული მასალები, თუმცა პრობლემა გაცილებით ღრმაა.
მთავარი გამოწვევა ის არის, რომ შემმოწმებელი ინსტრუმენტები — მაგალითად, მედიის ფაკტჩეკერები ან ტექნიკური ტრეკერები, რომლებიც მასალის წყაროს და სტრუქტურას ამოწმებენ — ბევრად ნელა ვითარდებიან, ვიდრე თავად AI-შემქმნელი პლატფორმები. ამის გამო ხშირად ყალბი კონტენტი ვირუსულად ვრცელდება, ხოლო სიმართლის დადგენა იწყება მხოლოდ მას შემდეგ, რაც ზიანი უკვე მიყენებულია.
თუ ეს ტენდენცია გაგრძელდა ისე, როგორც ახლა ვითარდება, 5–10 წელიწადში შეიძლება მივიღოთ სრულიად ახალი საინფორმაციო გარემო, სადაც რეალური და გამოგონილი ფაქტები თანაბრად იარსებებს. ტექნოლოგიები იძლევა საშუალებას, რომ მომავალში შესაძლებელი გახდეს მაგალითად 1980-იან წლებში „შესრულებული“ სიმღერის გამოქვეყნება თანამედროვე არტისტის ხმით, ან ისტორიული მოვლენების სრულიად რეალისტური ვიდეორეკონსტრუქცია — მაგრამ არა როგორც განათლების ინსტრუმენტი, არამედ როგორც კომერციული ან პროპაგანდისტული პროდუქტი.
საინფორმაციო ქაოსი შეიძლება იქცეს საზოგადოების ნდობის კრიზისად — განსაკუთრებით მაშინ, როცა ფუნდამენტური დისციპლინები, როგორებიცაა ისტორია, მედიცინა ან სამართალი, დაეყრდნობა მასალებს, რომელთა ავთენტურობის შემოწმება შეუძლებელია. ამასთან, თუ რეგულაციები და საინფორმაციო ჰიგიენა არ განვითარდა შესაბამისი სისწრაფით, შესაძლოა დიდი პლატფორმები აიძულონ ინდივიდებს, თავიანთი იდენტობის დამადასტურებელი ბიომეტრიული მონაცემები გაავრცელონ მხოლოდ იმისთვის, რომ ვიღაცამ არ „შექმნას“ ისინი.
ეს ყველაფერი ცვლის არა მხოლოდ იმას, თუ რას ვუყურებთ, არამედ როგორ ვენდობით იმ სისტემებს, რომლებიც აქამდე ფაქტებზე დაყრდნობით მუშაობდა. გრძელვადიან პერსპექტივაში, შესაძლოა საჭირო გახდეს სრულიად ახალი სოციალური კონტრაქტი ინფორმაციის გარშემო — სადაც სიმართლე აღარ იქნება მოცემულობა, არამედ დასამტკიცებელი კატეგორია.