Активисты по защите конфиденциальности подали жалобу на производителя ChatGPT OpenAI из-за неспособности компании исправить дезинформацию: ее чат-бот регулярно “галлюцинирует” о людях.

Проблема заключается в том, что компания стремится внедрить инструменты искусственного интеллекта для большинства клиентов.

Базирующаяся в Вене некоммерческая организация noyb, сокращенно от «не ваше дело», подала жалобу на защиту данных в австрийскую службу по надзору за данными, обвинив OpenAI в нарушении Общего регламента по защите данных (GDPR), самого строгого закона о конфиденциальности и безопасности в мире.

“Просто фабриковать данные о людях — это не вариант”, — заявила группа в заявлении по поводу жалобы, которая была подана от имени неназванного “общественного деятеля” и обвиняет OpenAI в отказе исправлять или стирать ложную информацию и заявления, которые ее чат-бот выдумал.

OpenAI обвинили также в нераскрытии соответствующей информации о человеке по запросу, включая то, какие данные были обработаны, их источники и кому они были переданы, юридическое обязательство, которое адвокат Noyb Маартье де Грааф сказал, “применимо ко всем компаниям”, добавив что “явно возможно” отслеживать источники информации при обучении системы ИИ.

“Фальсификация ложной информации сама по себе достаточно проблематична. Но когда дело доходит до ложной информации об отдельных лицах, могут быть серьезные последствия”, — говорится в заявлении де Граафа. “Очевидно, что компании в настоящее время не могут заставить чат-ботов, таких как ChatGPT, соответствовать законодательству ЕС при обработке данных о физических лицах. Если система не может давать точные и прозрачные результаты, ее нельзя использовать для получения данных о людях. Технология должна соответствовать требованиям законодательства, а не наоборот”.

Жалоба повышает ставку против OpenAI за то, как она использует и обучает модели, лежащие в основе ChatGPT. Компания, как и многие ведущие производители генеративного ИИ, уже столкнулась с целым рядом исков об авторских правах в отношении данных, которые она использовала для обучения своих моделей, а также с множеством других юридических проблем, таких как конфиденциальность данных, которые она собрала для обучения. Так называемые галлюцинации, когда система искусственного интеллекта выдает вводящий в заблуждение или ложный результат по подсказке, но представляет его как правдивый, также являются растущей юридической головной болью , такой как иск о клевете со стороны радиоведущего в Грузии. Жалоба — не первый раз, когда OpenAI сталкивается с мощным европейским режимом защиты данных, и в 2023 году компания уже была вынуждена внести изменения со стороны итальянского органа по защите данных.

GDPR — это мощный набор правил, который может заставить компанию внести серьезные изменения в свою деятельность, чтобы продолжить работу в крупнейшем в мире торговом блоке. Он также дает регуляторам право взимать штрафы в размере до 4% мирового оборота. Жалобы на данные могут распространиться на весь ЕС, если проблема выходит за пределы границ одной страны, а расследования проводятся сотрудничающими надзорными органами. Нойб заявил, что ожидает, что этот вопрос будет решен таким образом, что потенциально повысит ставки для OpenAI, хотя расследование может занять годы. Фирмы, занимающиеся искусственным интеллектом, будут внимательно следить за исходом дела.

Noyb является мощной силой в европейском пространстве защиты данных с момента своего основания в 2017 году, в результате чего было возбуждено в общей сложности 839 дел, в результате которых были наложены штрафы на сумму 1,74 миллиарда евро (1,86 миллиарда долларов США).

По оценкам Forbes, состояние Альтмана составляет $1 млрд. Хотя Альтман наиболее известен как соучредитель и руководитель OpenAI, он не имеет в ней никакого участия и не обязан ей своим богатством. Вместо этого состояние и статус миллиардера Альтмана обусловлены его инвестициями, которые включают в себя доли в недавно выпущенном Reddit, финтех-любимце Stripe и предприятии по ядерному синтезу Helion. До OpenAI Альтман основал компанию по созданию социальных карт Loopt и был партнером и президентом стартап-акселератора Y Combinator.