Ученые создали ИИ-психопата
Специалисты по машинному обучению из Массачусетского технологического института создали Norman – нейросеть, вдохновленную хичкоковским психопатом с раздвоением личности Норманом Бейтсом, персонажем романа Роберта Блоха и одноименного фильма Альфреда Хичкока «Психо». К счастью, единственной функцией неройросети является анализ пятен Роршаха. Разработчики утверждают, что единственной целью проекта является демонстрация того, как обучающая выборка может повлиять на искусственный интеллект.
Сам тест Роршаха был придуман в начале прошлого века швейцарским психиатром Германом Роршахом. Его суть заключается в просмотре десяти изображений, на которых показаны симметричные кляксы. Пациента, проходящего тест, простят интерпретировать каждую из них, рассказав о первой пришедшей в голову ассоциации. Роршах и его последователи считали, что с помощью этого теста можно определить психическое состояние человека, поскольку каждый, кто страдает тем или иным психическим расстройством, по-разному реагирует на формы и цвета клякс и видит в них совершенно различные фигуры и образы. Реальная эффективность данного метода до сих пор не подтверждена, тем не менее это не мешает ему использоваться в психиатрической практике по всему миру.
Пинар Янардаг и его коллеги из Массачусетского технологического института тоже взяли на вооружение тест Роршаха, ставший основой для новой нейросети, которую создали с помощью методов глубинного обучения. В качестве базы для тематической выборки исследователи использовали описания изображений из тематического сообщества c Reddit, посвященного разговорам о смерти: из этических соображений разработчики не называют его.
На основе собранных данных нейросеть обучили анализу и интерпретации пятен Роршаха. Ответы нейросети затем сравнили с ответами, выданными нейросетью, обученной на датасете MsCOCO, собранном для распознавания изображений. Интересно то, что результаты оказались очень разными. Нейросеть, обученная на стандартном датасете, видела в пятнах «вазу с цветами», а Norman — «застреленного мужчину».
Norman — достаточно простая нейросеть, и функций у нее немного. Ее единственным практическим применением может быть компьютерная диагностика ответов реальных людей на тест Роршаха. На деле же разработчики хотели показать, насколько искусственный интеллект может быть предвзятым в зависимости от обучающей выборки.
