Клиффорд Пиковер - Искусственный интеллект. Иллюстрированная история. От автоматов до нейросетей

Стоит отметить, что ИИ-системы, работающие с неполной информацией, бывают полезны во многих жизненных ситуациях: например, они помогают спрогнозировать окончательную стоимость продажи дома или договориться о выгодной цене на автомобиль. Покерные боты (программы для игры в покер) с разными уровнями квалификации существуют уже много лет, но их, как правило, не разрешается использовать в качестве помощников в онлайн-турнирах по покеру среди людей.

СМ. ТАКЖЕ Искусственные нейронные сети (1943), Deep Blue обыгрывает чемпиона мира по шахматам (1997), Quackle выигрывает в скребл (2006), AlphaGo – чемпион по игре в го (2016)

В 2017 г. ИИ-программыобыграли в техасском холдеме профессиональных игроков в покер. Здесь игроки обладают неполной информацией, что делает игру особенно сложной для компьютеров и требует «интуиции» для выбора выигрышной стратегии.

Представьте себе значок, который можно прикрепить к рубашке, или картинку, которую можно приклеить на знак остановки, чтобы обмануть ИИ-устройство (например, умную камеру наблюдения или беспилотный автомобиль) и заставить его думать, будто вы или знак – это любой другой объект на ваше усмотрение. Такой сценарий не выдумка, и он в действительности представляет угрозу для ИИ-систем на основе машинного обучения, а также для визуальных и аудиосистем, принимающих решения.

В 2017 г. исследователи из Google разработали круглые вставки с красочными психоделическими узорами, чтобы отвлечь классификаторы изображений с ИИ. Такие вставки могут обмануть ИИ-систему и заставить ее думать, что банан – или любой другой объект – это, например, тостер. Для этого достаточно просто поместить вставку рядом с объектом. Ранее с помощью других приемов экспериментаторы уже обманывали ИИ-системы, выдавая черепах за винтовки, а винтовки – за вертолеты. И хотя видоизмененные состязательные примеры со вставками хорошо заметны человеческому глазу, странные узоры и конструкции (скажем, граффити на стене здания или сложную трехмерную скульптуру) легко принять за обычное творчество – так что никто даже не догадается, что они призваны сбить с толку беспилотник, чтобы тот, например, принял больницу за военную цель.

В других экспериментах ИИ-системы неверно классифицировали знаки остановки как знаки ограничения скорости. В ряде работ уже анализировались потенциально опасные изменения, незаметные для человека, такие как подмена нескольких пикселей в изображении. В 2018 г. ученые из Калифорнийского университета в Беркли разработали состязательные примеры для систем распознавания речи. Иными словами, исследователи могли создать форму звуковой волны, почти идентичную реальной, и тем самым обмануть программу преобразования речи в текст, чтобы та превратила аудиосигнал в любую фразу по желанию исследователей.

Опыты с состязательным машинным обучением предполагают манипулирование тренировочными данными в ходе обучения ИИ. Хотя некоторые состязательные примеры можно нейтрализовать, потребовав от ИИ использовать сразу несколько систем классификаторов или запрограммировав их так, чтобы при обучении они не реагировали на состязательные примеры, во многих сферах применения ИИ сохраняются потенциальные риски.

СМ. ТАКЖЕ Смертоносные боевые роботы (1942), Машинное обучение (1959), Этика искусственного интеллекта (1976), Беспилотные автомобили (1984)

Исследования показали:если поместить круглые психоделические пятна в поле зрения ИИ-системы, можно обмануть ее и заставить «думать», что банан – это тостер. Это указывает на возможные риски при использовании ИИ в некоторых сферах.

На протяжении многих лет специалисты по ИИ конструировали самых разных роботов, способных собирать кубик Рубика с помощью компьютерного зрения и физических манипуляций. Оригинальную головоломку в 1974 г. создал венгерский изобретатель Эрнё Рубик (р. 1944); к 1982 г. в Венгрии было продано 10 миллионов таких кубиков (как ни странно, это больше, чем население страны). К настоящему времени, согласно оценкам, в мире продано более 100 миллионов штук.

Кубик Рубика представляет собой конструкцию 3 × 3 × 3 из меньших кубиков, окрашенных таким образом, что каждая из шести граней большого куба имеет свой цвет. Двадцать шесть внешних кубиков снабжены шарнирами, чтобы их можно было вращать. Цель в том, чтобы «собрать» кубик, то есть вернуть его в первоначальное состояние, в котором каждая грань состоит из квадратов одного цвета. Всего существует 43 252 003 274 489 856 000 вариантов расположения маленьких кубиков, и лишь один соответствует исходной позиции. Если бы у вас имелось по одному кубику для каждой возможной раскладки, вы могли бы покрыть ими всю поверхность Земли (включая океаны) примерно в 250 слоев.