В выдаче гугла нашли «фотографии» грибов, сделанные с помощью ИИ. Грибники опасаются, что отличить съедобное от несъедобного теперь будет сложнее

Картинка стояла первой в сниппете Google, который расположен перед основными результатами поисковой выдачи. В подписи к изображению было указано, что оно сгенерировано с помощью искусственного интеллекта. Однако, чтобы увидеть эту информацию, на картинку нужно кликнуть.

Поисковик взял некорректное изображение с сайта, где размещаются стоковые фото. MycoMutant отметил, что такой источник в принципе нельзя считать надежным, тем более когда речь идет о грибах. Он также рассказал, что ему и раньше попадались некорректные изображения в сниппетах, но это первый случай, когда в выдаче оказалась картинка, сгенерированная ИИ.

Сейчас по запросу Coprinus comatus поисковик выдает другое, правильное изображение. Однако оно тоже взято с сайта, где размещены стоковые фото. Правда, в этом случае Google использовал Shutterstock — более надежный платный источник.

«Когда я опубликовал пост, я попытался сообщить Google о проблеме, поскольку это была не единственная некорректная фотография грибов, с которой я столкнулся в сниппетах», — рассказал MycoMutant журналисту издания 404 Media. Однако в своем посте пользователь добавляет, что за все время ему удалось добиться замены только одного неправильного изображения. При этом компания продолжает использовать алгоритм, который собирает информацию для сниппетов в автоматическом режиме, без какого-либо надзора со стороны человека, разбирающегося в предмете.

Сгенерированные искусственным интеллектом изображения в результатах поиска могут быть опасны для пользователей. Например, если они пытаются понять, ядовитый ли перед ними гриб или нет. Секретарь Нью-Йоркского микологического общества Элан Трайбуш отмечает, что люди сейчас рассчитывают на мгновенное получение информации по конкретному запросу, и фото справляется с этой задачей лучше всего. Проблема в том, что многие ИИ-изображения достаточно реалистичны, чтобы ввести пользователей в заблуждение.

По его мнению, поисковикам стоит удалять ИИ-контент из результатов выдачи, а также маркировать те изображения, которые предположительно могли быть созданы искусственным интеллектом. «Было бы проще, если бы у них был раздел, специально предназначенный для результатов ИИ», — добавил Трайбуш.

В Google, судя по всему, пока не видят серьезной проблемы в том, что информация, которую предоставляет их поисковая система, может быть потенциально опасной. «У нас есть средства защиты, обеспечивающие высокое качество обслуживания, и мы продолжаем работать над тем, чтобы еще сильнее повысить качество этих защитных механизмов, — говорится в заявлении компании, которое приводит 404 Media. — Когда мы получаем отзывы пользователей о потенциальных проблемах, мы работаем над системными улучшениями».

Как Google внедряет ИИ в свои системы

• Google провел презентацию, посвященную искусственному интеллекту. ИИ теперь везде: в поиске, фотогалерее и даже телефонных разговорах с мошенниками

При этом ИИ-контент действительно может быть опасен. В августе 2024 года британская семья попала в больницу после отравления. Пользователь реддита Virtual_Cellist_736 рассказал, что перед этим его жена купила книгу под названием «Грибы Великобритании: руководство по сбору безопасных и съедобных грибов». Позже выяснилось, что изображения и некоторые части текста в ней были сгенерированы искусственным интеллектом. Никаких предупреждений об этом на сайте продавца не было.

По словам пользователя, он нашел как минимум два фрагмента, в которых случайно остались уточняющие вопросы от чат-бота. Например, одна из фраз выглядела так: «В заключение, сморчки — это вкусные грибы, которые можно употреблять с августа до конца лета. Дайте мне знать, если я могу вам чем-то еще помочь».

А годом ранее журналисты обнаружили на Amazon целый ряд книг о грибах, которые, судя по всему, были написаны с использованием ChatGPT. При этом их продают без каких-либо пометок или предупреждений. Издание 404 Media проанализировало несколько фрагментов этих книг с помощью сервиса ZeroGPT, который распознает контент, созданный ИИ. Вероятность того, что они написаны с помощью ChatGPT, варьировалась в пределах от 85 до 100 процентов.

Авторов книг найти тоже не удалось. После того как журналисты обратились к представителям Amazon за комментарием, несколько книг сняли с продажи. А эксперты Нью-Йоркского микологического общества призвали покупать только издания известных авторов или собирателей грибов.

У Google раньше тоже возникали проблемы с контентом, сгенерированным искусственным интеллектом. В мае 2024-го компания представила AI Overviews — краткое резюме перед основными результатами поиска, сгенерированное с помощью ИИ. Вскоре выяснилось, что система не может отличить правдивую информацию от шуток и троллинга.

Самым известным примером стал совет поисковика добавить в пиццу клей, чтобы сыр держался лучше. Искусственный интеллект нашел его в старом шутливом комментарии на реддите. Сотрудники Google объяснили это тем, что запросы пользователей были «очень необычными». Они устранили ошибки и даже отключили AI Overview для определенных запросов. Однако системного решения, как избежать подобных ошибок в будущем, у компании пока нет.

Какие еще безумные советы давал поисковик

• ИИ-поисковик Google сошел с ума. Он путает шутки с реальностью, советует есть камни для пищеварения и готовить пиццу с клеем

«Медуза»