Новости Статьи Авторы О проекте
Инструменты
AI-разбор продаж Стать автором
Новости Внедрение ИИ

ИИ выдумал несуществующий научный термин — он уже в 22 рецензируемых статьях

Коротко

Несуществующий термин «вегетативная электронная микроскопия» возник из опечатки, попал в обучающие данные ИИ и разошёлся минимум по 22 рецензируемым статьям — рецензирование его не отсеяло. Урок для бизнеса: ИИ уверенно тиражирует ложь, поэтому фактчек ИИ-текстов должен быть частью процесса, а не опцией.

Исследователи из Технологического университета Квинсленда разобрали показательный случай того, как ошибка расползается через нейросети. В научных статьях стал попадаться термин «вегетативная электронная микроскопия» (vegetative electron microscopy) — словосочетание, которого в науке не существует.

Источников ошибки оказалось два. При оцифровке статей 1950-х годов OCR склеил слово «vegetative» из одной колонки текста с «electron microscopy» из соседней. Позже к этому добавилась ошибка перевода с фарси в иранских статьях: там «вегетативный» и «сканирующий» различаются одной точкой над буквой. Фраза-фантом попала в массив данных, на которых обучались модели, и нейросети начали уверенно её воспроизводить — термин закрепился в GPT-4o и Claude 3.5.

22
рецензируемые статьи с несуществующим термином
13,5%
биомедицинских абстрактов 2024 года несут следы обработки ИИ

По данным разбора в The Conversation, выдуманный термин встречается минимум в 22 работах — одну статью отозвали, ещё для одной издатель выпустил исправление. Отдельное исследование более 15 млн биомедицинских абстрактов PubMed показало: не менее 13,5% рефератов 2024 года несут следы обработки языковыми моделями. То есть проблема не в единичной опечатке, а в том, что ИИ-контента в текстах становится всё больше, а система рецензирования его не ловит.

Источник: The Conversation
AI-разбор за 30 секунд
Сверим вашу нишу с внедрениями ИИ в похожие компании и покажем, где утекают заявки — за 30 секунд.
Пройти AI-разбор →
Новости

Новостная редакция llmcase.ru: разбираем новости про ИИ и что это значит для бизнеса в России. Каждая новость — со ссылкой на первоисточник. Больше материалов — в блоге автора.