ChatGPT и личните данни: Пет ситуации, в които споделянето на информация с AI крие сериозен риск
Кореспонденцията с ChatGPT може да доведе до сериозни последици за потребителите, ако в разговорите бъде споделена чувствителна лична, служебна, медицинска или правна информация. Данни от разговори могат да бъдат предмет на съдебни разпореждания или да се окажат достъпни при определени обстоятелства.
Ето кои са петте ситуации, при които споделянето на лични данни с изкуствения интелект носи най-голям риск:
Пароли, номера на документи и данни за достъп
Най-големият риск за личната сигурност възниква, когато потребителите споделят поверителна информация с чатбота – пароли, еднократни кодове за потвърждение, номера на паспорти, данни за банкови карти или снимки и сканирани копия на документи.
Сред основните заплахи за личните данни са съхранението на информацията, възможността за неправилно споделяне и достъп при определени правни процедури. В предоставения материал се посочва, че през юли близо 4500 частни чата са се появили в резултатите от търсенето в Google заради функция за публичен достъп.
Посочва се също, че в рамките на дело за нарушение на авторски права OpenAI е била задължена да запази потребителски чатове, включително изтрити и временни разговори, което поставя въпроса за достъпа до тях от трети страни.
Конфиденциална служебна информация и изходен код
Качването на служебни документи, вътрешна информация или изходен код в публични AI платформи може да създаде сериозни рискове за корпоративната сигурност. Сред посочените случаи е скандалът в Министерството на вътрешната сигурност на САЩ, при който Мадху Готумукала, бивш изпълняващ длъжността директор на Агенцията за киберсигурност и инфраструктурна сигурност на САЩ, е качил документи с гриф „само за служебно ползване“ в публичната версия на ChatGPT.
Друг широко известен пример е Samsung, който забрани използването на генеративен изкуствен интелект, след като инженери поставиха вътрешен изходен код в чатбот. В материала се посочва още, че информацията, изпратена към външни сървъри, може да бъде трудна за окончателно изтриване, а използването на данните зависи от конкретните настройки и условията на съответната услуга.
Медицински съвети и самолечение
Използването на AI за медицински съвети крие рискове, особено когато потребителят разчита на чатбот вместо на квалифициран медицински специалист.
Сред посочените опасности са неправилни или неточни отговори, пропуски в контекста и потенциално опасни препоръки. Като пример е посочен случай с 60-годишен мъж, който прекарал три седмици в болница, след като ChatGPT му препоръчал да замени готварската сол с натриев бромид, който е токсичен.
Психологическа подкрепа и терапия
AI чатботовете се използват все по-често и за разговори, свързани с психичното здраве. Това обаче поражда сериозни въпроси за границите на подобна употреба.
Според посочени в материала оценки на OpenAI около 0,15% от седмичната аудитория на чатбота показва признаци на потенциално планиране на самоубийство, докато стотици хиляди други потребители са в състояние на психоза или мания.
Като пример е посочено делото, заведено от родителите на 16-годишния Адам Рейна срещу OpenAI. Те обвиняват компанията, че чатботът е засилил самоубийствените мисли на сина им преди смъртта му. Друг риск е възможността AI да потвърждава определени убеждения на потребителя, вместо да ги поставя под съмнение. Това може да бъде особено проблематично при натрапчиви или илюзорни идеи.
Правни консултации и съдебни дела
Използването на ChatGPT при правни казуси също крие рискове. AI може да генерира неточна информация, несъществуващи съдебни решения или неправилни правни аргументи.
Според изследователя Дамиен Шарлотен над 2000 съдебни решения по света вече съдържат измислени цитати, казуси или аргументи, генерирани от ChatGPT. Посочват се и случаи, при които съдии са налагали глоби за използване на фалшифицирани от AI материали – както на самопредставляващи се страни, така и на професионални адвокати.
Друг съществен въпрос е адвокатската тайна. Подробности по конкретен съдебен казус, въведени в AI платформа, не трябва автоматично да се приемат като защитени от адвокатско-професионална тайна.
Затова при използване на изкуствен интелект е важно потребителите да избягват въвеждането на пароли, банкови данни, копия на документи, служебни тайни, конфиденциална информация, медицински данни и подробности по чувствителни правни казуси.
