Open AI запретила ChatGPT давать консультации по праву и медицине

Согласно новой политике OpenAI, ChatGPT больше не сможет консультировать пользователей по юридическим вопросам. Также это относится к медицине, финансовой деятельности, трудоустройству и национальной безопасности

OpenAI обновила политику использования сервисов компании. Пользователям запретили получать у чат-бота ChatGPT консультации по юридическим и медицинским вопросам, говорится в сообщении на сайте OpenAI.

Нововведения касаются также запрета на консультации по темам образования, жилья, трудоустройства, финансовой деятельности и кредитования, страхования и «важных государственных услуг». Кроме того, ChatGPT больше не сможет консультировать пользователей по вопросам миграции и национальной безопасности.

«Мы требуем от пользователей надлежащего использования наших сервисов, и нарушение или несоблюдение наших правил и мер безопасности может привести к потере доступа к нашим системам или другим мерам наказания»,— говорится в сообщении компании.

Уточняется, что сервисы нельзя использовать с целью угроз, запугивания, преследования или клеветы, пропаганды самоубийства или расстройств пищевого поведения. Под запретом находятся сексуальное насилие и терроризм, создание, закупка или использование оружия, азартные игры на деньги.

Также запрещено использовать сервисы OpenAI для использования изображения человека без его согласия (включая голос и реалистичные портреты), нельзя оценивать или прогнозировать риск совершения преступления отдельным лицом «исключительно на основании его личностных характеристик».

Под запретом находится осуждение внешнего вида несовершеннолетних, пропаганда среди них нездорового питания, их доступ к товарам или видам деятельности, имеющим возрастные ограничения.

14 октября глава OpenAI Сэм Альтманнаписал в X о планирующемся добавлении эротического контента в ChatGPT. «В декабре по мере более полного внедрения возрастного ценза и в рамках нашего принципа «относитесь к взрослым пользователям как к взрослым» мы разрешим еще больше, например, эротику для верифицированных взрослых»,— уточнил он.

В августе The Wall Street Journal писала, что нейросеть ChatGPT в последние годы стала чаще делать бредовые и ложные утверждения и постепенно «сводить с ума» пользователей. OpenAI заявила, что эта проблема встречается редко. Представитель компании Ник Терли заверил, что корпорация относится к вопросу серьезно и консультируется с врачами в ходе разработки.

Читайте РБК в Telegram.

Источник