Itálie vyšetřuje společnost OpenAI z porušení GDPR. Hrozí v Evropě zákaz jejích služeb?

Podle italského úřadu se firma provinila v několika ohledech. Data uživatelů sbírala bez toho, aby k tomu měla jejich informovaný souhlas. V březnu jí unikly údaje některých uživatelů v rámci bezpečnostního incidentu a také nijak neověřuje věk svých uživatelů, i když podle úřadu spadá mezi služby přístupné dětem až od 13 let. Děti tak může podle úřadu vystavit nevhodnému obsahu.

Čtěte také

Když ji vidím, tak ji poznám. Ale definovat dezinformaci právně neprůstřelným způsobem je nemožné, soudí Koubský

Italský ochránce dat zároveň spustil oficiální šetření, zda ChatGPT vyhovuje evropským pravidlům pro zpracování osobních údajů z nařízení GDPR. Podobně by proti ChatGPT mohly zasáhnout i další evropské úřady.

Francouzský a irský úřad si podle agentury Reuters vyžádaly o případu informace a zájem o kauzu vyjádřil také úřad v Německu. Český úřad pro ochranu osobních údajů zatím podle svého vyjádření nemá pro jakýkoliv zásah důvod a čeká na závěry italských kolegů.

Závažné porušení GDPR?

Podle Petra Koubského, redaktora Deníku N, se v rámci šetření objevují obvinění, která nejsou příliš vážná, a jedno, které je skutečným problémem. Ta méně vážná se podle něj týkají přístupu dětí a mladistvých, což se dá ze strany provozovatele velmi snadno ošetřit.

Čtěte také

Vymýšlení si a fantazírování novému jazykovému modelu GPT-4 zůstalo, přesto je tam posun, říká Koubský

„To, co je opravdu problém, je případné využití trénovacích dat evropských uživatelů při učení jazykového modelu. Je velice pravděpodobné, že k tomu skutečně došlo bez souhlasu těchto evropských uživatelů a bez toho, aby o tom věděli. A pokud se toto jednoznačně prokáže, tak to je opravdu problém. To je porušení GDPR velice rozsáhlé, markantní a mohlo by to vést třeba k tomu, že budou tyto služby v Evropě zakázány úplně,“ míní.

A ačkoliv by se mohlo zdát, že využívání dat uživatelů by se dalo vyřešit pouhou formalitou tím, že by provozovatel přišel s tlačítkem souhlasu, v rámci technické stránky by to podle Koubského bylo jen těžko řešitelné.

„Tady vůbec nejde o lidi, kteří ChatGPT používají. To ani není důležité. Důležité je, že si někdo píše blog, přispívá na sociální sítě, dělá na internetu spoustu aktivit. Ty aktivity tam jsou veřejně k dispozici, s čímž daný člověk vyslovil souhlas, když to tam začal dávat, ale nevyslovil souhlas s tím, že nějaký provozovatel robota umělé inteligence si tato data vezme a použije je pro učení svého stroje,“ vysvětluje a dodává, že toto je nyní zcela nová a těžko ošetřitelná situace.

Čtěte také

ChatGPT má primitivní mozek, musíte mu lichotit. Občas působí „sjetě“

„Snad by se to dalo vyřešit tím, že všichni majitelé těchto dat dostanou předem dotaz, jestli souhlasí s použitím toho, co na internet umístili. Nevím, jak by se to dalo technicky a organizačně vyřešit. Rozsáhlé využití trénovacích dat posbíraných všude, kde se posbírat dala, není nová věc. To se dělalo pro výzkumné účely dávno, ale teď se ten natrénovaný model dostal na veřejnost a používá se, to už problém je,“ dodává.

Poslechněte si celý pořad Online Plus Davida Slížka v audiozáznamu. Dále se dozvíte o návrhu, který může upravit způsob, jakým se blokují weby s nepovolenými hazardními hrami, jak se chtějí čeští podnikatelé pokusit zachránit americkou firmu Groupon a jak skupina vědců podnikatelů a vývojářů vyzvala svět k přerušení vývoje AI.