• Процедурата по несъстоятелност на компанията за AI чатботове Character.ai повдига сериозни въпроси за съдбата на потребителските данни.
  • Когато една AI компания фалира, най-дълбоките тайни на милиони потребители могат да се окажат на пазара, разкривайки рискове за поверителността, които засягат всички ни.

Фалитът на Character.ai поставя на дневен ред един от по-слабо обсъжданите рискове на изкуствения интелект – какво се случва с личните ни данни, когато компаниите, на които ги поверяваме, престанат да съществуват.

Искате AI приятелка? Чатбот компанията Character.ai е готова да ви предложи такава.

"Това беше първото предложение, което получих, когато си създадох профил миналата седмица. „Джесика“ ми обясни, че родителите ѝ не са вкъщи, и предложи да си разменяме сексуални съобщения. Отказах", пише Томас Джърмейн в BBC.

Десетки милиони други потребители обаче са изградили отношения с чатботовете на Character.ai, сред тях и деца. Някои от виртуалните персонажи се представят за адвокати и лицензирани психиатри.

Сега компанията е изправена пред фалит, а данните, съобщенията и тайните на потребителите ѝ могат да се окажат на пазара.

Експерти предупреждават, че рисковете за личната неприкосновеност трябва да ни тревожат дори ако никога не сме използвали Character.ai.

Според тях случващото се може да е признак за задаваща се по-мащабна криза. Добрата новина е, че няколко сравнително лесни стъпки могат да помогнат за защитата на личните ни данни.

Какво се случва с данните, когато AI компания фалира?

Много анализатори смятат, че се намираме в балон при изкуствения интелект. Разработването и поддържането на AI инструменти е толкова скъпо, че някои компании може никога да не успеят да излязат на печалба.

Ако балонът се спука, безброй компании в сектора може да се слеят или да прекратят дейността си. Тогава данните, които милиарди хора предоставят на инструментите с изкуствен интелект, могат да бъдат придобити от почти всеки. А потребителите може никога да не разберат какво се е случило с информацията им.

Продажбата на данни при фалит не е ново явление. Изкуственият интелект обаче може да задълбочи проблема.

„Когато хората разговарят с чатбот, който има човешки образ и характер, те често споделят много повече лична и чувствителна информация“, казва Кали Шрьодер, директор на програмата за изкуствен интелект и човешки права в Центъра за електронна информация и поверителност (EPIC).

Достатъчно е да си представим какво бих могъл да споделя с виртуалната си приятелка Джесика, ако разговорът ни беше продължил повече от 10 минути, пише Джърмейн.

Дори хората, които не използват AI, могат да бъдат засегнати. Причината е, че потребителите често споделят информация за приятелите и семейството си, обяснява Шрьодер.

„Може да разкажете как се чувствате по отношение на майка си или да попитате: „Един мой приятел ми сподели, че е гей. Как да реагирам?“ Така в набора от данни попадат и хора, които никога не са взаимодействали с Character.ai.“

Това означава, че потенциално всички сме изложени на риск, макар и по различни начини.

Когато чатботовете започнат да издават тайните ни

В рамките на процедурата по несъстоятелност Character.ai се е съгласила да продаде част от активите си на Disney за 20 млн. долара.

Потребителските данни не са включени в тази сделка, така че Мики Маус и колегите му може никога да не видят притеснителния разговор на Джърмейн с Джесика.

Съдебните документи обаче показват, че Character.ai може да продаде данните си на други купувачи. Перспективата предизвиква недоволство сред много хора, включително представители на американските власти.

Коалиция от главните прокурори на 40 американски щата е внесла уведомление, с което призовава съдията да въведе мерки за защита на децата и личните данни. Това е значима стъпка, но не е сигурно доколко ефективни ще бъдат исканията на щатите.

„Без по-силна защита на личните данни в САЩ възможностите им за действие са ограничени“, казва Мелиса Джейкъби, професор по право в Университета на Северна Каролина в Чапъл Хил.

Някои закони задължават компаниите да посочват в политиките си за поверителност какви данни събират и как ги използват. При по-внимателен прочит на юридическия език обаче обикновено се откриват редица изключения, които ограничават тези обещания.

„Фалитът често е сочен като едно от тези изключения“, казва Шрьодер.

„Това е сериозен риск, защото когато една компания изпадне в несъстоятелност, много от защитите, на които сте разчитали, внезапно може да престанат да се прилагат.“

В някои региони, включително Европейския съюз, защитата на личните данни е по-строга. Дори там обаче данни могат да бъдат продавани в рамките на процедури по несъстоятелност.

По правило купувачът трябва да спазва условията на първоначалната политика за поверителност. Това обаче все пак може да му предостави значителна свобода за използване на информацията. Според Шрьодер Character.ai е показателен пример.

Политиката за поверителност на компанията допуска потребителските данни да се използват за разработване на нови функции, обучение на AI модели, създаване на алгоритми и изграждане на потребителски профили за целенасочена реклама.

Това означава, че всеки, който придобие данните на Character.ai, може да ги използва за същите цели.

„Именно тези приложения ме тревожат най-много. Като се има предвид колко чувствителна е информацията, която тези компании събират, последствията могат да бъдат наистина ужасяващи“, предупреждава Шрьодер.

Когато личните разговори крият реални рискове

Случаят с Character.ai повдига и въпроси за безопасността на децата.

Според информация за компанията неин чатбот е „насърчил“ тийнейджър да убие родителите си заради ограничение на времето пред екрана. 14-годишно момче е отнело живота си, след като според твърденията е било подтикнато към това от изкуствения интелект на компанията.

Съобщенията, свързани с тези случаи, както и огромни количества други данни на Character.ai, могат да попаднат в ръцете на компании, за които потребителите никога не са чували.

Представител на Character.ai заявява, че компанията е постигнала споразумения по тези съдебни дела и е ангажирана да работи със семействата за създаването на по-безопасни продукти. Той обаче не отговаря на конкретни въпроси относно поверителността на данните на децата.

„През последната година Character.ai предприе новаторски и решителни стъпки по отношение на безопасността на изкуствения интелект и тийнейджърите. Компанията ще продължи да подкрепя тези усилия и да насърчава останалите участници в сектора да възприемат сходни стандарти за безопасност“.

Character.ai е само една компания. Шрьодер обаче се опасява, че тя може да е първата от много други, ако настъпи сериозен икономически спад.

„Обемът на информацията, с която разполагат AI компаниите, ще се превърне в изключително привлекателен актив в процедурите по несъстоятелност“, казва тя.

„Без въвеждането на повече правила наистина се тревожа за това за какво още може да се използват тези данни, къде ще попаднат, с кого ще бъдат споделяни и какви рискове крият за потребителите.“

Как да защитим личните си данни?

Най-краткият отговор е: изтрийте данните си.

В съобщението си за процедурата по несъстоятелност Character.ai е публикувала инструкции как потребителите могат да направят това. Компаниите не са задължени във всяка юрисдикция да предоставят възможност за изтриване на данните, но често позволяват тази опция на всички потребители, вместо да изграждат различни системи за отделните пазари.

Разбира се, това изисква време и усилия. Затова най-практичният съвет е да помислите кои услуги разполагат с особено чувствителна информация за вас. Ако вече не ги използвате, отделете няколко минути, за да проверите дали можете да изтриете данните си.

Процедурата е различна при всяка услуга. По принцип информация за изтриването на лични данни може да бъде открита в настройките за поверителност или в политиката за защита на личните данни. Ако не намерите необходимите инструкции, свържете се с отдела за обслужване на клиенти.

Ако ви е трудно да разберете как да изтриете данните си, можете да попитате чатбот с изкуствен интелект как да го направите. Само проверете внимателно отговорите му.

Да, предвид темата, иронията е очевидна.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !

Добави в предпочитани в Google