Microsoft объявила о новой программе Bing AI bug bounty, которая вводит вознаграждения за уязвимости в ИИ-продуктах компании. Для тех, кто обнаружит баги с рейтингами «важные» или «критические», предусмотрены премии в размере от $2000 до $15 000.
Примеры уязвимостей, за которые можно получить вознаграждение, включают использование быстрого проектирования, позволяющее чату Bing раскрывать конфиденциальную информацию, содержащуюся в весах модели, обходить ограничения чата Bing, касающихся поведения бота или продолжительности сеанса, а также получать доступ к истории чата.
Высшую награду предложат за критические уязвимости в манипуляциях с выводами, моделями или раскрытием информации, основанной на выводах.
В рамках программы можно будет искать уязвимости в любой интеграции Bing на базе искусственного интеллекта в Microsoft Edge, на веб-сайте bing.com (независимо от браузера), в меню «Пуск» Microsoft или в приложении Skype.
Другие разработчики ИИ тоже предлагают программы вознаграждений за обнаружение ошибок. Так, OpenAI обещает премии до $20 000 за «исключительные» уязвимости.
Ранее Microsoft добавила модель DALL-E 3 от OpenAI в свой конструктор изображений Bing Image Creator, но его пользователи сталкиваются с жёсткой цензурой при попытке использовать даже безобидные текстовые подсказки.
Источник: habr.com
