Статья в Природа теперь изучил феномен «мусор на выносе», обучая поколения ИИ результатам предыдущих поколений, а не материалам, созданным людьми. Это сработало как инбридинг в биологии, что и объяснило распространенность гемофилии среди европейских королевских особ. Без участия человека ИИ-каннибалы стали бессвязными и производили причудливый мусор только к девятому поколению. ИИ не являются независимым творческим человеком, а лишь имитируют человеческое поведение, поэтому это было неизбежно, когда человеческий вклад был отключен.

В эксперименте использовался только текстовый материал. Еще неизвестно, какие изображения и звуки возникают в результате цифрового инбридинга. Будет ли искусство похоже на Джексона Поллока или Жоана Миро? Будет ли деградированная музыка похожа на разжеванные кассеты Kraftwerk или на Cacofonix на фестивале перед тем, как Fulliautomatix подвергнет ее цензуре?

Понятно, что машинное самовоспроизведение, которое ранее привлекало внимание таких учёных, как Джон фон Нейман и Фримен Дайсон, потерпит неудачу без вмешательства человека. К сожалению, это подрывает доверие к самым захватывающим антиутопическим произведениям. Нам нужен новый жанр, в котором машины не охотятся на людей, а разводят их, чтобы использовать их культуру в качестве исходного материала.

Угроза фейкового контента страшнее вымысла. Пробелы, которые заполонили Интернет, могут лечь в основу проектов искусственного интеллекта, но поддельные академические материалы еще более опасны. Правительства принимают решения на основе научных исследований, которые влияют на жизнь миллионов людей. Учреждения, в том числе академические, используют их для прогнозов и производства материалов, которые могут повлиять практически на все – на рыночные условия, космические проекты, оборонное планирование, разработку лекарств и учебные материалы для школ. Ранние гуру интернет-маркетинга говорили, что «контент – король», и в целом это утверждение было верным. Но в век альтернативных фактов это звучит угрожающе.

(Взгляды личные)

(На Х @pratik_k)

Пратик Канджилал | Автор уже много лет непринужденно обращается к удивительно толерантной аудитории.