MWC 2018
2018
Computex
IFA 2018
Искусственный интеллект всё чаще используется в написании научных статей, но достоверно определить степень его присутствия непросто, указывают исследователи. Пока ясно одно: объём такого контента будет расти и далее, говорится в материале Nature.
Источник изображения: Markus Winkler / unsplash.com
Обеспокоенность сообщества исследователей по поводу масштабов созданного ИИ научного контента отражает общие тенденции в интернете. К концу марта число статей, написанных с участием ИИ, оказалось больше, чем количество созданных человеком материалов — к такому выводу пришли специалисты компании Graphite, изучившие 55 000 новых веб-страниц. ИИ вполне может использоваться в создании научной литературы, он способен ускорить процесс исследований — но с его помощью генерируются и статьи низкого качества. Чтобы оценить масштаб проблемы, учёные обращаются к средствам обнаружения ИИ-контента, хотя те не дают полной гарантии: некоторые из доступных инструментов не различают текст, который просто редактировался с помощью ИИ, и текст, который был полностью им сгенерирован. Бывают и ложноположительные срабатывания — когда написанный человеком текст помечается как созданный ИИ.
Показательны результаты исследования, проведённого с использованием инструмента, который разработала компания Pangram Labs. В рамках проекта были изучены 7000 научных статей и 8000 рецензий, присланных в журнал Organization Science с января 2021 по февраль 2026 года. Выяснилось, что с ноября 2022 года, когда появился ChatGPT, общее количество работ подскочило на 42 %; было также установлено, что этот рост был обусловлен главным образом участием ИИ. С начала 2024 до февраля 2026 года количество статей, содержащих более 70 % сгенерированного ИИ текста, увеличилось более чем вдвое; созданный ИИ текст содержат и 30 % рецензий. В рамках ещё одной работы были изучены около 5000 статей по биомедицинским наукам, опубликованных в научных журналах Science, Nature и Cell — их проанализировали с помощью инструмента обнаружения ИИ-контента Pangram. Шесть статей, показал он, были написаны ИИ полностью, и каждая восьмая из общего числа в той или иной мере содержала созданный ИИ текст.
Источник изображения: Igor Omilaev / unsplash.com
В ходе третьего исследования учёные при помощи двух детекторов ИИ проанализировали более 124 тыс. рукописей, размещённых на платформе arXiv в период с 2020 по 2025 годы В области компьютерных наук число обзорных материалов, написанных с помощью ИИ выросло с 7 % в 2023 до 43 % в 2025 году. Число содержащих сгенерированный ИИ текст уникальных исследовательских материалов в этой области за тот же период выросло с 3 % до 23 %. Авторы этой работы не проводили различия между частичным применением ИИ в научной работе и полностью написанными ИИ материалами; качество самих работ тоже не оценивалось.
Важный аспект проблемы — отсутствие точных и надёжных средств, способных точно установить, какая доля научной литературы в целом создаётся ИИ. ИИ-модели совершенствуются, и вместе с ними должны совершенствоваться детекторы участия ИИ в тексте — со временем будет расти и число механизмов, с помощью которых люди будут пытаться «очеловечить» эти материалы и обойти детекторы. Ещё один способ — внедрение «водяных знаков», которые явно укажут на участие ИИ при создании текста. Недавно эта технология способствовала отклонению 497 присланных на научную конференцию работ.
Источник:
