OpenAI предлагает вознаграждение за сообщения об ошибках в ChatGPT
Индекс
A OpenAI, компания, отвечающая за решения в области искусственного интеллекта (ИИ), предлагает до 20 XNUMX долларов за сообщение об ошибках в ChatGPT. Чтобы иметь возможность предупреждать об уязвимостях, пользователи должны показывать ошибки через платформу ошибка баунти Bugcrowd, где было сделано объявление.
Предлагая вознаграждение, OpenAI предупреждает, что попытки использовать системы искусственного интеллекта компании в злонамеренных целях не получат никакого вознаграждения. Узнайте в этой статье, как компания будет вручать эти награды тем, кто найдет пороки служб ИИ, и правила, связанные с их получением.
Как OpenAI вознаграждает пользователей, обнаруживших ошибки в ChatGPT?
Компания, объявившая о присуждении награды за обнаружение ошибок, заявила, что запускает эту программу, потому что понимает, что для решения некоторых проблем необходимы «существенные исследования и широкий подход». Таким образом, компания намерена вознаграждать за обнаруженные ошибки, что может «снизить планку» и улучшить работу таких сервисов, как ChatGPT.
«Наши вознаграждения варьируются от 200 долларов США за открытия с низким уровнем риска до 20 XNUMX долларов США за исключительные открытия».
OpenAI
Другими словами, принимая за основу текущий обменный курс американской валюты, если бразильский пользователь сообщит об ошибке, которая считается более серьезной, его надбавка может превысить 980 реалов, почти 100 тысяч реалов.
Идея состоит в том, что с помощью программы вознаграждений OpenAI сможет снизить вероятность сбоев при обработке пользовательских данных. Уделяя больше внимания сообществу, использующему ее решения, компания хочет, чтобы люди не оставляли явных сведений об уязвимостях.
Ошибки и другие проблемы, не включенные в программу вознаграждений
Уже есть несколько отчетов и статей, демонстрирующих полезный потенциал ChatGPT — как для простых задач, таких как планирование поездок, так и для других более сложных действий, таких как оценка программных кодов — и, с другой стороны, отчеты об ответах, которые могут быть более полезными. рискованно — сервис может использоваться для создания фрагментов дезинформации или даже разработки шагов для создания вредоносного ПО. Что касается этих проблем, Open AI перечислил некоторые рекомендации по определению того, кто может получать вознаграждение за сообщения об ошибках.
Список на странице Bugcrowd под названием Вне области (выходит за рамки, в вольном переводе) указывает, что ошибки, связанные с атакой, будь то взлом паролей, уничтожение сторонних данных, утечка личных данных, среди других видов правонарушений, не получат объявленных вознаграждений. Руководящие принципы также ограничивают любые попытки атаки на сам OpenAI, попытки спама или мошенничества. Тем не менее, компания не будет вознаграждать тех, кто планирует просить службы ИИ придумать методы обмана людей через веб-сайты с помощью поддельных кнопок и сервисов.
Уязвимости, обнаруженные в ChatGPT с большими последствиями: несколько примеров
Несколько недель назад ChatGPT стал новостью из-за того, что показал вредоносный потенциал, поскольку смог обойти системы проверки, такие как ЗАЩИТНЫЙ. Но эти и другие ошибки могут быть связаны с другими причинами, то есть они не обязательно связаны с плохим управлением со стороны OpenAI.
Например, в марте хакер по имени rezO даже обнаружил 80 «секретных плагинов» в API — сокращение от Интерфейс прикладного программирования, или Application Programming Interface, в свободном переводе; служит для создания взаимодействия между цифровыми услугами, что важно для функционирования этих систем для использования людьми. Оказывается, эти функции на самом деле еще не были реализованы для службы ИИ.
В качестве решения OpenAI удалось устранить проблему с плагином в тот же день, когда о происшествии было сообщено. Также в марте OpenAI даже извинилась за то, что была уведомлена об очередной ошибке в своей системе быстрого реагирования ИИ. Предупреждение заключалось в том, что произошла ошибка, которая привела к утечке платежных данных и даже истории чата для некоторых пользователей.
См. также:
Google Bard: конкурент ChatGPT объявлен «скоро»
Билл Гейтс цитирует «Эра ИИ только началась» и размышляет о ChatGPT
Узнайте больше о Showmetech
Подпишитесь, чтобы получать наши последние новости по электронной почте.
