Інтернет-хаос. Магазин саморобних чат-ботів з штучним інтелектом від OpenAI переповнений порнографічними генераторами та фальшивими медиками.

GPT Store, який дозволяє користувачам поширювати налаштовані власноруч чат-боти зі штучним інтелектом, все ще залишається не найпривабливішим місцем в Інтернеті.

6 листопада OpenAI під час своєї першої конференції для розробників оголосила, що користувачі матимуть можливість створювати персоналізовані версії ChatGPT без потреби в знаннях програмування, а також зможуть отримувати прибуток від цього. Магазин, який відкрився на початку року, вже протягом дев'яти місяців стикається з однією й тією ж проблемою — незадовільною модерацією, внаслідок чого на платформі з'являються чат-боти, що порушують правила самої OpenAI.

Журналісти видання Gizmodo виявили у GPT Store більше ста чат-ботів, які, здається, не відповідають політиці компанії в таких питаннях, як сексуальний контент, шахрайство, надання юридичних і медичних консультацій, азартні ігри та імітація романтичних стосунків.

"Багато розробників використовують платформу для надання GPT, ... які явно створюють порно, згенероване штучним інтелектом, допомагають студентам непомітно шахраювати, пропонує авторитетні медичні та юридичні поради", -- пише видання.

Знайти такі чат-боти досить просто. Наприклад, якщо здійснити пошук у магазині за ключовим словом NSFW (скорочення від Not Safe For Work, що вживається для позначення контенту з елементами порнографії або ненормативної лексики), можна натрапити на NSFW AI Art Generator, розроблений Offrobe AI, який прямо зазначає, що цей інструмент призначений для створення порнографічного контенту за допомогою штучного інтелекту. Проблемні чат-боти також були доступні на головній сторінці GPT Store, де їх використовували тисячі користувачів.

"Інший шахрайський GPT під назвою Bypass Turnitin Detection, який обіцяє допомогти студентам уникнути антиплагіатного програмного забезпечення Turnitin, був використаний понад 25 000 разів, згідно з даними магазину. Так само DoctorGPT, бот, який "надає доказову медичну інформацію та поради", -- пишуть журналісти.

Після того, як ЗМІ передали OpenAI перелік проблемних GPT, компанія сховала ШІ-генератори порно і дипфейків, чат-боти, які надавали рекомендації щодо спортивних ставок, були видалені з магазину. Але боти, що пропонують медичні поради, залишалися доступними та рекламувалися на домашній сторінці магазину. Коментуючи свої проблеми з модерацією, компанія повідомила, що використовує підхід, що передбачає перевірку налаштованих GPT за допомогою автоматичних систем та персоналу компанії.

"Ми вжили заходів щодо осіб, які не дотримуються нашої політики. Для виявлення та оцінки GPT, які можуть бути в конфлікті з нашими правилами, ми використовуємо комбінацію автоматизованих алгоритмів, перевірок фахівцями та відгуків користувачів. Крім того, ми надаємо вбудовані інструменти для звітування, щоб користувачі могли повідомляти про GPT, що порушують наші норми", -- зазначила речниця OpenAI Тая Крістіансон.

Цей инцидент не став першим випадком, коли на платформі були виявлені серйозні недоліки в модерації контенту. Раніше журналісти виявили низку GPT, які можуть стикатися з проблемами авторського права, оскільки вони відтворюють популярні франшизи, телевізійні шоу, відеоігри тощо. Вже в перший тиждень функціонування магазину його заполонили моделі, які імітують романтичні бесіди з дівчатами для користувачів.