OpenAI stahuje „příliš podlézavého chatbota“. „Jako jednu z verzí bych ho nechal,“ navrhuje Koubský
Americká firma OpenAI oznámila, že udělala chybu a vrací se ke starší verzi AI modelu GPT-4.0. Reagovala na stížnosti, že se nový model chová příliš podlézavě a snaží se souhlasit s postoji uživatelů i ve chvíli, kdy je to nevhodné nebo absurdní. „Asi je to poměrně banální chyba způsobená nešťastnou formulací v systémovém promptu,“ odhaduje v pořadu Online Plus vědecký redaktor Deníku N Petr Koubský.
„Je to chyba, která se dá asi poměrně snadno odstranit tím, že ten prompt se zase trošku přepíše a najdou se tam formulace, které tu chybu způsobily: ‚Buď hodně vstřícný, laskavý, potvrzuj uživateli jeho názory‘. Trochu se to zmírní a bude dobře,“ předpokládá Koubský.
Čtěte také
Chyba se podle OpenAI stala při nastavování toho, jak model reaguje na hodnocení uživatelů. Do budoucna mají lidé dostat možnost vybrat si dokonce z několika výchozích „osobností“, které se budou chovat různým způsobem, přislíbila firma.
„Jestli chtějí nechat chatbotovi více osobností, já bych se docela přimlouval za to, aby jedna z nich byla tahle lichotivá. Každý z nás by možná občas potřeboval si to zapnout a nechat si chvilku vysvětlovat, že je nejlepší na světě a že všechno, co říká, říká dobře a moudře,“ vtipkuje Koubský.
Chatbot by ovšem byl nucen souhlasit se vším, co uživatel řekne, a mohl by ho podporovat třeba i v nápadech, jimiž by mohl ohrozit sebe nebo své okolí.
Bude umělá inteligence psát zákony ve Spojených arabských emirátech? Za co udělila Evropská komise velké pokuty firmám Apple a Meta? Poslechněte si celý pořad Online Plus z audia v úvodu článku.
Mohlo by vás zajímat
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Starosvětské příběhy lesníků z časů, kdy se na Šumavě ještě žilo podle staletých tradic.
Václav Žmolík, moderátor
Zmizelá osada
Dramatický příběh viny a trestu odehrávající se v hlubokých lesích nenávratně zmizelé staré Šumavy, několik let po ničivém polomu z roku 1870.
