Питер Сингер - Війна лайків. Зброя в руках соціальних мереж

Нейронні мережі можуть синтезувати не лише те, що ми читаємо та чуємо, але й те, що бачимо. У 2016-му команда комп’ютерних та аудіовізуальних фахівців продемонструвала, як із двовимірної фотографії можна створити фотореалістичну тривимірну модель людського обличчя. Вони показали це на прикладі покійної легенди боксу Мухаммеда Алі, перетворивши одну-єдину світлину на гіперреалістичну маску обличчя, готову для анімації та поміщення у віртуальний світ – і здатну переписати історію того, що робив та казав Мухаммед Алі, коли був живий.

Цю технологію можна використовувати і для зміни теперішнього чи майбутнього. Використовуючи звичайні веб-камери, команда фахівців вивчала «розпізнавання обличчя» об’єкта: пропорції його рис та особливості руху губ, брів та лінії підборіддя. Потім дослідники вивчали розпізнавання обличчя іншої людини в записаному раніше відео, наприклад в інтерв’ю з Арнольдом Шварценеґґером чи промові Джорджа Буша. Після цього фахівці поєднували два розпізнавання через «деформаційну передачу», переводячи рухи першого обличчя в пропорційні рухи другого. Фактично об’єкт міг використовувати власне обличчя, щоб контролювати вирази людини на екрані, все у реальному часі. Якщо маленька жіночка перед веб-камерою відкривала рот, те саме робив і несправжній Арнольд Шварценеґґер. Якщо середнього віку добродій з коротким волоссям і борідкою швидко ковтав слова, здіймаючи брови, те саме робив і фотореалістичний Джордж Буш. Самі дослідники сказали про це так: «Ці результати важко відрізнити від реальності, і часто можна не помітити, що контент несправжній».

Нейронні мережі можна використовувати і для створення глибинних фейків. Замість просто вивчати зображення, щоб дізнаватися назви різних об’єктів, ці мережі можуть навчитися виробляти нові, ніколи раніше не бачені версії потрібних об’єктів. Їх називають «генеративними мережами». У 2017-му комп’ютерники представили генеративну мережу, здатну створювати фотореалістичні синтетичні зображення на вимогу, лише за ключовим словом. Запитайте «вулкан» – і отримаєте виверження або якісь знайомі ландшафти, яким насправді немає відповідників. Інша система створювала синтетичних знаменитостей – обличчя людей, яких не існувало, але в яких реальні люди готові були впізнавати голлівудських зірок.

За допомогою таких технологій користувачі зрештою матимуть здатність викликати в уяві переконливу подібність будь-якої сцени або людини, яку вони або штучний інтелект можуть уявити. Оскільки це зображення справді оригінальне , буде неможливо визначити підробку, застосовуючи старі методи. А ще генеративні мережі можуть робити те саме з відео. Вони вже створили похмурі заплутані ролики про «пляж», «дитину» чи навіть «гольф». Вони також навчилися робити статичні зображення (людини на полі, потяга на станції) і створювати короткі відео прогностичного майбутнього (людина йде, потяг рушає). Таким чином фігури на старих чорно-білих фото можна одного дня «оживити», а події, яких ніколи не було, подати онлайн як справжні, задокументовані переконливими відеодоказами.

І нарешті є MADCOM. З цією технологією тісно пов’язаний штучний інтелект, який майже неможливо відрізнити від оператора-людини і який також схильний до зловживання. Сьогодні кмітливий користувач Інтернету ще може відрізнити «справжніх» людей від автоматизованих бот-мереж і навіть багатьох маріонеток (виявляти деяких допомагає русифікована англійська). Незабаром навіть такі непевні ситуації можна буде ніжно згадувати як «добрі старі часи», коли ще можна було мати трохи впевненості, що інші користувачі соцмереж – люди з плоті і крові, а не маніпульовані машини. Дайте MADCOM бот-мережу Twitter , і вона зможе викривляти алгоритмічну відомість якоїсь теми так, що цього ніхто не помічатиме, адже машина створюватиме реалістичні діалоги між багатьма своїми фейковими компонентами. MADCOM не просто стане рушієм циклів новин, а й дуритиме людей і маніпулюватиме їхньою реакцією. Система навіть зможе давати інтерв’ю репортерам, які нічого не підозрюватимуть.

Введіть у MADCOM достатньо аргументів, і система ніколи не повториться. Введіть у неї достатньо інформації про цільову групу – сотні мільярдів точок даних із бази виборців на кшталт «Проекту Аламо», – і вона зможе розкрутити персоналізований виклад для кожного мешканця країни. Ця мережа ніколи не спить і завжди вчиться. В умовах кризи вона незмінно реагуватиме першою, привертаючи непропорційну увагу та скеровуючи виклад соцмереж у напрямку, що найкраще відповідає прихованим цілям її власників. Метью Чессен, старший радник з технологічної політики Держдепартаменту США, прямо говорить про неминуче панування MADCOM. Вона «визначатиме долю Інтернету, нашого суспільства та нашої демократії», – пише він. Люди більше не зможуть надійно контролювати машини. Натомість, коли машини скеровуватимуть наші ідеї та культуру до автоматизованого еволюційного процесу, який ми більше не розуміємо, вони «почнуть програмувати нас».