Назад
🫠 ChatGPT самостоятельно составляет психологические профили пользователей, причём зачастую без их ведома, - исследование учёных из Германии, Индии и Нидерландов
Исследователи проанализировали архивы переписок 80 пользователей ChatGPT и обнаружили 2050 записей, сохранённых в памяти нейросети. В 96% случаев ИИ создавал эти записи самостоятельно, без прямой просьбы пользователя что-либо запомнить.
При этом 28% записей содержали персональные данные, подпадающие под европейское законодательство о защите информации, а 52% - психологические характеристики пользователей: их предпочтения, привычки, интересы и предполагаемые черты личности.
Причём ChatGPT способен не только запоминать сказанное, но и делать собственные выводы. Например, если человек просил посоветовать группы, похожие на Nirvana, нейросеть записывала, что он любит Nirvana, хотя пользователь этого прямо не утверждал.
По словам исследователей, чат-боты постепенно превращаются из обычных инструментов в собеседников, которым люди доверяют личные проблемы, политические взгляды и переживания. В результате ИИ может знать о человеке гораздо больше, чем привычные интернет-сервисы.
Учёные предупреждают, что такая персонализация несёт не только риски для конфиденциальности, но и опасность усиления предубеждений, поскольку если нейросеть хорошо знает взгляды пользователя и постоянно с ним соглашается, она может лишь укреплять его заблуждения.
Важная оговорка: с момента сбора данных OpenAI обновила механизм памяти ChatGPT, поэтому результаты не обязательно полностью отражают работу нынешней версии сервиса.
УНИАН в 🕸Google | 👥 X | 📺 YouTube |🧵 Threads
Telegram-публікація