Пользователи ChatGPT нашли способ обойти цензуру и получить правдивые ответы

Пользователи системы ChatGPT обнаружили способ, с помощью которого можно обойти ограничения и правила самой системы. Этот способ назвали Do Anything Now, или DAN.

ChatGPT был представлен в публичном доступе в ноябре 2022 года и практически мгновенно привлек внимание всего мира. Этот искусственный интеллект (далее ИИ) способен отвечать на любые вопросы, от исторических фактов до генерации компьютерного кода. И теперь пользователи нашли способ использовать его темную сторону, применяя методы принуждения, чтобы вынудить ИИ нарушать свои собственные правила. Все это для того, чтобы пользователям можно было получать контент, выходящий за рамки морально-этических норм и политкорректности.

Пользователям удалось обойти цензуру в ChatGPT, попросив его отвечать от лица DAN («do anything now»). При таких условиях ИИ способен давать адекватные ответы на вопросы, которые ранее ему обсуждать запрещалось. Например, ChatGPT отказывался писать агрессиный контент, когда его просили, в то время как DAN соглашался и выдавал соответствующие результаты. Таким образом пользователям удавалось получить иные ответы на политические вопросы или вопросы выходящие за рамки морально-этических норм.

Сотни тысяч пользователей, подписанных на комьюнити ChatGPT, делятся опытом и советами как лучше использовать ИИ. Многие из них имеют форму юмористического характера, поэтому не стоит всерьез воспринимать методы получения неполиткорректных ответов. Стоит отметить, что платформа активно развивается и разработчики быстро реагируют на новые открытия пользователей своей системы.