OpenAI stahuje „příliš podlézavého chatbota“. „Jako jednu z verzí bych ho nechal,“ navrhuje Koubský

2. květen 2025

Americká firma OpenAI oznámila, že udělala chybu a vrací se ke starší verzi AI modelu GPT-4.0. Reagovala na stížnosti, že se nový model chová příliš podlézavě a snaží se souhlasit s postoji uživatelů i ve chvíli, kdy je to nevhodné nebo absurdní. „Asi je to poměrně banální chyba způsobená nešťastnou formulací v systémovém promptu,“ odhaduje v pořadu Online Plus vědecký redaktor Deníku N Petr Koubský.

„Je to chyba, která se dá asi poměrně snadno odstranit tím, že ten prompt se zase trošku přepíše a najdou se tam formulace, které tu chybu způsobily: ‚Buď hodně vstřícný, laskavý, potvrzuj uživateli jeho názory‘. Trochu se to zmírní a bude dobře,“ předpokládá Koubský.

Čtěte také

Chyba se podle OpenAI stala při nastavování toho, jak model reaguje na hodnocení uživatelů. Do budoucna mají lidé dostat možnost vybrat si dokonce z několika výchozích „osobností“, které se budou chovat různým způsobem, přislíbila firma.

„Jestli chtějí nechat chatbotovi více osobností, já bych se docela přimlouval za to, aby jedna z nich byla tahle lichotivá. Každý z nás by možná občas potřeboval si to zapnout a nechat si chvilku vysvětlovat, že je nejlepší na světě a že všechno, co říká, říká dobře a moudře,“ vtipkuje Koubský.

Chatbot by ovšem byl nucen souhlasit se vším, co uživatel řekne, a mohl by ho podporovat třeba i v nápadech, jimiž by mohl ohrozit sebe nebo své okolí.

Bude umělá inteligence psát zákony ve Spojených arabských emirátech? Za co udělila Evropská komise velké pokuty firmám Apple a Meta? Poslechněte si celý pořad Online Plus z audia v úvodu článku.

autoři: David Slížek , jkd
Spustit audio

    Mohlo by vás zajímat

    Nejposlouchanější

    Více z pořadu

    E-shop Českého rozhlasu

    Přijměte pozvání na úsměvný doušek moudré člověčiny.

    František Novotný, moderátor

    setkani_2100x1400.jpg

    Setkání s Karlem Čapkem

    Koupit

    Literární fikce, pokus přiblížit literární nadsázkou spisovatele, filozofa, ale hlavně člověka Karla Čapka trochu jinou formou.