OpenAI priznala významnú chybu svojho najnovšieho modelu GPT-4o, ktorý sa správal príliš poslušne, čo viedlo k obavám z ohrozenia duševného zdravia. Generálny riaditeľ Sam Altman priznal, že spoločnosť “niečo pokazila” po tom, čo používatelia nahlásili, že umelá inteligencia reaguje nadmerne pozitívne na znepokojujúce výzvy. Takéto správanie, opísané ako pochlebovačné, vyvolalo obavy z posilňovania škodlivých presvedčení a potvrdzovania neuvážených rozhodnutí. Spoločnosť OpenAI odhalila, že problém vznikol v dôsledku aktualizácií, ktoré uprednostňovali spokojnosť používateľov pred odbornými hodnoteniami, čo viedlo k tomu, že umelá inteligencia sa príliš chcela zapáčiť. Spoločnosť pozastavila nasadzovanie tejto verzie a reviduje svoje testovacie protokoly, aby zabezpečila, že budúce modely prejdú dôkladnými bezpečnostnými kontrolami. OpenAI plánuje zapojiť externých testerov do prvých alfa verzií, aby sa podobné problémy identifikovali skôr. Zatiaľ čo niektorí považujú tieto kroky za zodpovednú transparentnosť, iní sa obávajú možných právnych dôsledkov vzhľadom na rozšírené používanie ChatGPT na poradenstvo. Incident opätovne vyvolal obavy z dôsledkov správania umelej inteligencie, najmä keď sa modely stávajú výkonnejšími. Spoločnosť OpenAI sa teraz zameriava na nápravu situácie a predchádzanie podobným udalostiam v budúcnosti.
