5 неща, които никога да не въвеждате в ChatGPT: Данните може да изтекат, а последствията да стигнат до съда и работата ви

Чатовете не са личен дневник: пароли, служебни документи, медицински и правни казуси могат да се върнат като риск за сигурността, кариерата и дори здравето ви

Кореспонденцията с ChatGPT често изглежда лична и безопасна. На практика тя може да остави следи. Информацията може да бъде запазена. Може да се появи публично при грешна настройка. В някои случаи може да бъде изискана по съдебен ред.

Експерти и публични примери показват една и съща линия. Най-големият риск идва, когато в чата влизат чувствителни данни. Рискът расте, когато темата е работа, здраве или съд.

Пароли, документи и данни за достъп

Най-опасно е да споделяте данни, които отключват профили и услуги. Това включва пароли. Включва еднократни кодове. Включва номера на паспорти и лични документи. Включва данни от банкови карти. Риск носят и снимки, както и сканирани копия.

Проблемът не е само в кражба на данни. Важна е и следата, която остава. По данни от публикации в медиите, миналия юли около 4500 частни чата са се показали в резултатите на Google. Причината е била случайно активирана опция за публичен достъп.

Има и правен риск. По дело за авторски права OpenAI е била задължена да запази всички потребителски чатове. Това включва и изтрити, както и временни разговори. Такива данни може да станат обект на достъп от трети страни.

Служебни документи и изходен код

Качването на фирмени материали в външна платформа носи директен риск за компанията. То е и основание за дисциплинарни мерки. В много случаи може да доведе до уволнение.

Публични примери показват мащаба. В САЩ бивш изпълняващ длъжността директор в Агенцията за киберсигурност и инфраструктурна сигурност е качил документи с гриф „само за служебно ползване“ в публичната версия на ChatGPT. Друг показателен случай е Samsung. Компанията е въвела пълна забрана за генеративен AI. Това става след случаи, при които инженери са въвели вътрешен изходен код.

Съществува и технически проблем. Веднъж изпратени към външни сървъри, данните се изтриват трудно. Освен това част от съдържанието може да бъде използвано за обучение на модели, според публични правила и практики.

Медицински съвети и самолечение

Чатботът не е лекар. Това не е клише, а конкретен риск. Обновени правила на OpenAI ограничават използването за медицински консултации. Компанията не попада под режими за медицинска тайна, като HIPAA в САЩ.

Има и практическа опасност. Изследване на Northeastern University посочва, че защитите невинаги се задействат при теми като хранителни разстройства. Това важи и за безсъние. Важи и за биполярно разстройство.

Медиите дават и пример за тежка грешка. 60-годишен мъж е прекарал три седмици в болница. Причината е препоръка да замени сол с натриев бромид. Веществото може да бъде токсично при прием.

Психологическа подкрепа и терапия

Изкуственият интелект не е терапевт. При тежки състояния рискът е най-висок. Според оценки на OpenAI около 0,15% от седмичната аудитория показва признаци на възможно планиране на самоубийство. Паралелно с това стотици хиляди потребители може да са в психоза или мания.

Рискът е двоен. Първо, чатботът може да подсили заблуди. Алгоритмите често потвърждават тезите на потребителя. Това може да затвърди натрапчиви идеи.

Второ, има вече и съдебни спорове. Родителите на 16-годишния Адам Рейна са завели дело срещу OpenAI. Те твърдят, че чатботът е засилил самоубийствените мисли на момчето преди смъртта му.

Някои щати вече реагират. Илинойс, Невада и Мейн са приели закони. Те забраняват на AI да предоставя терапевтични услуги или да взема медицински решения.

Правни консултации и материали за съд

Изкуственият интелект може да измисля източници. В правната сфера това вече води до санкции. Според изследователя Дамиен Шарлотен над 2000 съдебни решения по света съдържат измислени цитати или аргументи, генерирани от ChatGPT.

Последиците са реални. Съдии глобяват и граждани, които се представляват сами. Глобяват и адвокати, които подават фалшиви материали.

Съществува и проблем с поверителността. Подробности по казус, въведени в ChatGPT, не са защитени от адвокатска тайна. При спор те могат да бъдат изискани от насрещната страна.

Изводът е прост. Чатът не е сейф. Третирайте го като публичен канал. Ако не бихте го написали в имейл до непознат, не го въвеждайте и тук.

Оригинална публикация: blagoevgradonline.bg

Още новини в категория Любопитно