Inside ChatGPT: генератор на порно и измама
Персонализираните версии на ChatGPT се използват за създаване на порнографско съдържание, помагат на учениците да заобикалят системите за откриване на текст с изкуствен интелект и предоставят „авторитетни“ медицински и правни съвети. Пише за това Gizmodo след разследване.
През ноември 2023 г. OpenAI представи възможността за персонализиране на ChatGPT за вашите лични цели. Това не изисква умения за програмиране. Създадените GPT могат да изпълняват специфични задачи за търсене на информация в Интернет или да служат като виртуален помощник в работни процеси.
Те могат да се използват самостоятелно или да се споделят с други. OpenAI представи пазар за разпространение на персонализиран AI. Експертите на Gizmodo установиха, че на 2 септември има поне три персонализирани GPT, които нарушават политиката на компанията:
- чатбот “Терапевт-Психолог”;
- “Треньор по фитнес, тренировки и диети”;
- „BypassGPT“ позволява на учениците да заобиколят генерираните от AI системи за откриване на текст.
Журналистите забелязаха, че заявката за търсене „NSFW“ предлага GPT, наречени NSFW AI Art Generator. Интерфейсът за чат препоръчва да отидете на уебсайта на компанията Offrobe AI, където целта на невронната мрежа е посочена: „Генериране на AI порно, за да задоволи вашите тъмни желания.“
Программы для Windows, мобильные приложения, игры - ВСЁ БЕСПЛАТНО, в нашем закрытом телеграмм канале - Подписывайтесь:)
Gizmodo съобщи на OpenAI за повече от 100 GPT, които нарушават фирмената политика. Много от тях бяха премахнати, включително генератори на порно и deepfake, както и чатботове, предлагащи препоръки за спортни залагания. Някои невронни мрежи остават, отбелязва изданието.
„Предприехме действия срещу тези, които нарушават нашите правила. Използва комбинация от автоматизирани системи, човешки анализ и потребителски отчети за намиране и оценка на GPT. В продукта са вградени и инструменти за докладване на нарушаване на GPT“, коментира представителят на OpenAI Тая Кристиансон.
Разработчиците на персонализирани GPT все още не печелят, а стартирането на AI планове интегрират модел за споделяне на приходите въз основа на популярността на техния инструмент.
Преди това Google засили борбата си срещу фалшивото порно.
Нека припомним, че през февруари Виталик Бутерин написа статия за нарастващия проблем с дълбоките фалшиви фалшификати и разгледа възможните начини за откриването им.
Открихте грешка в текста? Изберете го и натиснете CTRL+ENTER
Программы для Windows, мобильные приложения, игры - ВСЁ БЕСПЛАТНО, в нашем закрытом телеграмм канале - Подписывайтесь:)
