Chatbotok súlyos hiányosságai: A veszélyes ténykezelés
A legnépszerűbb mesterségesintelligencia-chatbotok, mint a ChatGPT, a Google Gemini, a DeepSeek és a Claude, komoly problémákat okozhatnak az igazságügyi és orvosi területeken. A kutatók figyelmeztettek arra, hogy ezek a rendszerek nem képesek valóban megérteni az emberi meggyőződések és a tények közötti finom különbséget. Az ilyen alapú alkalmazás rendkívül kockázatos lehet, hiszen a szoftverek automatikusan tényként kezelik a felhasználók kijelentéseit, függetlenül attól, hogy azok valóságtartalma mennyire megbízható.
A kutatás és az eredmények
A Stanford Egyetem kutatói 2025 júliusáig 24 különböző nagy nyelvi modellt vizsgáltak, több mint 13 ezer kérdés feltevésével. A cél az volt, hogy teszteljék, mennyire tudják megkülönböztetni a tényeket a személyes hiedelmektől, amelyek bár igazak is lehetnek, de nem feltétlenül azok. A kutatás során kiderült, hogy a chatbotok nem képesek érzékelni a „tudom” és „hiszem” közötti különbséget, ami komoly hiányosságokat tár fel a technológiában.
Következmények a használatban
Ezek a hiányosságok rádöbbentik a közönséget arra, hogy az algoritmusok nemcsak a valós információkat nem tudják helyesen kezelni, hanem téves diagnózisokat és torzított bírósági ítéleteket is eredményezhetnek. Az emberek hiedelmei a legtöbb esetben nem tényeken alapulnak, ebből adódóan az algoritmusok képtelenek az ilyen torzulások észlelésére, ami végső soron a félretájékoztatás felerősödéséhez vezethet.
Mit kell tenni a jövőben?
A kutatók hangsúlyozták, hogy a nagy nyelvi modelleket tovább kell finomítani, hogy jobban képesek legyenek felismerni a téves hiteket és megbízhatóbban megkülönböztetni a tényeken alapuló tudást. Ez különösen fontos, mielőtt széles körben alkalmaznák őket olyan kritikus területeken, mint a jog, az orvostudomány, a tudományos kutatás és az újságírás.
ChatGPT jövője: Egy új korszak a mesterséges intelligenciában
A mesterséges intelligencia piacon történő fejlődést még inkább felgyorsíthatja az OpenAI és az Amazon közötti megállapodás. Ez a partnerség célja, hogy stabilabbá és gyorsabbá tegye a ChatGPT működését, amely új lehetőségeket nyithat meg a chatbotok teljesítményében. Az iparág előtt álló új kihívások és lehetőségek inspiráló jövőt vetítenek előre, azonban a technológiai fejlődést figyelemmel kell kísérni, hogy a chatbotok egyre inkább megfeleljenek a felhasználók elvárásainak.
Forrás: www.vg.hu/nemzetkozi-gazdasag/2025/11/chatbot-sulyos-hianyossag-teves-diagnozis-chatgpt
