Восстание машин: в Британии ИИ отравил грибами целую семью

В Британии разразился скандал после того, как семья оказалась в больнице из-за отравления ядовитыми грибами. Причиной беды стал дешёвый путеводитель по грибам, купленный на Amazon, автором которого оказался искусственный интеллект. Пострадавший написал пост на Reddit.

По словам пострадавших, книга под названием «Грибы Великобритании: руководство по сбору безопасных и съедобных грибов» была куплена в качестве подарка на день рождения. Однако, как выяснилось, содержание книги, включая фотографии и текст, было полностью сгенерировано ИИ.

«На прошлой неделе вся моя семья лежала в больнице после того, как мы случайно употребили ядовитые грибы. Книга, которую купила моя жена, оказалась ненадёжной. Мы обнаружили, что изображения грибов были созданы ИИ, а текст содержал множество ошибок и странных утверждений. Например, утверждение о сморчках звучало так: «В заключение, сморчки — это вкусные грибы, которые можно употреблять с августа до конца лета. Дайте мне знать, если я могу вам чем-то еще помочь», — поделился пострадавший.

После появления информации в СМИ Amazon попыталась сгладить ситуацию, предложив семье компенсацию в обмен на возврат книги. Однако, общественное возмущение не замедлило появиться. Эксперты и медики настаивают на запрете подобных книг и требуют от платформ четко указывать, что контент создан ИИ.



Журналисты выяснили, что на Amazon действительно имеются другие сомнительные книги по грибам, также созданные ИИ. Среди них — «Кулинарная книга по диким грибам: от леса до изысканной тарелки» и «Полевой путеводитель по высшим грибным книгам Юго-Запада». Эксперты проверили четыре таких книги и подтвердили, что они были написаны чат-ботами с 100% вероятностью по шкале обнаружения ИИ.

В ответ на скандал представитель Amazon сообщил: «Мы серьёзно относимся к таким вопросам и стремимся обеспечить безопасный опыт покупок и чтения для наших клиентов. В настоящее время мы проводим дополнительное исследование упомянутых книг и примем все необходимые меры для предотвращения подобных ситуаций в будущем».

Справка: Первая книга в России, написанная в соавторстве с ИИ была выпущена в 2022 году. «Пытаясь проснуться» — сборник рассказов, автором является Павел Пепперштейн и ruGPT-3. Из 24 рассказов только половина принадлежит Пепперештейну-человеку.

Ранее мы писали, что искусственный интеллект учат предсказывать преступления — когда ждать судного дня?