Как узнать, написал ли текст ИИ или бот?

с каких пор искусственный разум был включен в инструмент GPT-2, многих удивила возможность генерировать тексты. Инструмент, созданный OpenAI, даже создали вымышленный текст, показывающий открытие учеными единорогов. Но широкое использование текстов, созданных ботами, вызвало споры: как узнать, действительно ли текст был написан ИИ?

Стремясь запрограммировать алгоритм, способный проверить что было написано ИИ, группа ученых из Массачусетский технологический институт (MIT)) разработал систему под названием ГЛТР. Но MIT не одинок в этой гонке.

Также ищу линейку для определения того, что производится или не производится интеллектуальными алгоритмами, OpenAI 31 января запустила новую функцию в своей системе ChatGPT. Теперь тот, кто использует автоматическое создание текста, может выбрать опцию инструмент классификатора (инструмент классификации) для проверки текстов AI.

Появление ChatGPT: как появились автоматизированные тексты

Чтобы понять, где ChatGPT, люди должны знать организацию, стоящую за приложением. Созданный в 2015 году, он был OpenAI с которого началось построение алгоритма, генеральным директором которого сегодня является Сэм Альтман. Компания нацелена на проведение передовых исследований в искусственный разум. выпуск чат состоялось 30 ноября 2022 года и призвано ответить на несколько вопросов пользователей.

«[ChatGPT предназначен для] ответов на вопросы, распознавания ошибок, выявления неверных предположений и отклонения неуместных запросов».

Open AI о том, как чат работает с искусственным интеллектом

Существуют и другие подобные автоматы, созданные OpenAI. Примеры ИнструктироватьGPT, целью которого является предоставление инструкций и ответов пользователям и DALL · E, способный генерировать изображения по запросу пользователя.

Зная, что инструмент автоматического создания текста может увеличить количество дезинформации, компания решила применить изменение. Помимо анонса инструмента ранжирования, OpenAI предупредил, что использование ChatGPT может представлять угрозу, если оно используется для создания фейковых новостей.

Как работает оценка текстов, написанных ИИ

О проект ГПЗеро имел функцию проверки авторства текстов, сделанных ИИ. По сути, алгоритм оценивает наличие авторства ChatGPT в анализируемых текстах. Также приложение видит, текст имеет сложность и вариации предложений, посредством вычислений. Изобретателем приложения стал Эдвард Тиан, 22 года, студент Университет Принстон, В США. Помимо разработки методов расчета, он построил алгоритм на Python, используя библиотеку Streamlit.

В интервью с The Guardian, тянь отметил, что без заинтересованности крупных технологических компаний трудно остановить использование ChatGPT для плагиата. Что касается мотивации, он заявил, что идея заключалась в том, чтобы избежать использования программные обеспечения которому удалось ускользнуть от детекторов ненадлежащих копий.

Как работает инструмент ранжирования OpenAI, в свою очередь, имеет некоторые ограничения. Кроме того, он проходит некоторые испытания, а метод его создания включал машинное обучение. На этом этапе текст, написанный искусственным интеллектом, сравнивался с произведениями, созданными людьми на ту же тему.

Обнаружение написанного AI текста в GPTZero

Инструмент, созданный MIT может проверить авторство робота с помощью простой техники. То есть он следует по пути, созданному GPT-2 производить тексты: увидеть, какие слова, скорее всего, будут идти сразу после каждого. Так что ГЛТР проверяет, действительно ли то, что было написано, сделано морда.

O ГЛТР показывает пользователям, является ли текст написанным искусственным интеллектом посредством простого сигнала. Если у вас есть участие такого алгоритма, как GPT-2, текст отображается зеленым цветом. Другие цвета, такие как фиолетовый, красный и желтый, показывают, что текст, скорее всего, был написан автором. человека.

Предположение о том, какие слова могут следовать одно за другим, является решающим фактором для того, чтобы текст считался написанным человеком. Но ученые, создавшие ГЛТР указывают на то, что именно непредсказуемость мешает тексту, написанному IA не быть замеченным.

«Обычное письмо, на самом деле, часто выбирает непредсказуемые слова, которые больше подходят к теме текста. Это означает, что мы можем проверить, действительно ли текст скорее исходит от человека».

Ученые, ответственные за алгоритм GLTR для сайта Futurism

Тем не менее, технология ГЛТР необходимо пройти доработки. Иногда текст может быть сделан человеком, но алгоритм ошибочно обвиняет его в том, что он был кем-то сделан. морда. Таким образом, проверка наличия текстов ИИ станет задачей, для решения которой потребуется больше инструментов.

Инструмент оценки OpenAI в ChatGPT

A инструмент классификатора имеет ограничение проверки автоматизированного или органического авторства текстовой продукции не менее одной тысячи символов. Решение, созданное на основе машинного обучения, все еще нуждается в некоторых корректировках, потому что оно все еще путает написанное IA с тем, что произведено каким-либо человеком.

«В наших оценках с набором английских текстов наш классификатор правильно идентифицирует 26% текстов, написанных ИИ (настоящие тесты), как «вероятно, написанные ИИ», в то время как неправильно идентифицирует тексты, созданные человеком, как созданные человеком. искусственный интеллект 9 % времени (ложные срабатывания)».

OpenAI

Дополнительная опасность находится на радаре компании AI. В конце концов, тексты с автоматизированным производством могут быть повторно адаптированы учащимися, которые стремятся найти закономерности в содержании, созданном с помощью искусственный разум и знать, как их перехитрить. Таким образом, OpenAI в нем уже сказано, что на данный момент новая функция классификации по-прежнему не может быть использована для того, чтобы раз и навсегда определить, исходит ли производство, например, от бота. Ожидается, что компания сможет добиться дальнейших успехов в решении этой задачи в ближайшем будущем.

См. также: ChatGPT сдает экзамены MBA, права и медицины в США.

Fontes: The Guardian | Глядя на камеру | PC Mag | Футуризм | заминка.

Рассмотрено Glauco