Trots all spänning kring ChatGPT och liknande AI-drivna chatbots har de textbaserade verktygen fortfarande några allvarliga problem som måste lösas.
Bland dem är deras tendens att hitta på saker och presentera det som ett faktum när det inte vet svaret på en förfrågan, ett fenomen som har kommit att kallas ”hallucinerande”. Som du kan föreställa dig kan det få allvarliga konsekvenser att presentera osanningar som fakta för någon som använder en av de nya vågen av kraftfulla chatbots.
Sådana problem uppmärksammades i en nyligen inträffad incident där en erfaren New York City-advokat citerade fall – föreslagna av ChatGPT – som visade sig aldrig ha hänt. Advokaten kan drabbas av sanktioner till följd av sitt agerande.
En annan incident fick stor uppmärksamhet i april när ChatGPT uppenbarligen skrev om historien genom att säga att en australisk borgmästare hade dömts till fängelse för mutor när han arbetade för en bank när han i själva verket hade varit en whistleblower i fallet.
För att göra sin chatbot-teknik mer tillförlitlig har OpenAI-ingenjörer avslöjat att de för närvarande fokuserar på att förbättra sin mjukvara för att minska och förhoppningsvis eliminera dessa problematiska händelser.
I ett forskningsdokument som släpptes på onsdagen och hämtas av CNBCOpenAI sa att chatbots ”uppvisar en tendens att hitta på fakta i stunder av osäkerhet”, och tillade: ”Dessa hallucinationer är särskilt problematiska i domäner som kräver flerstegsresonemang eftersom ett enda logiskt fel är tillräckligt för att spåra ur en mycket större lösning.”
För att ta itu med chatbotens felsteg arbetar OpenAI-ingenjörer på sätt för dess AI-modeller att belöna sig själva för att de matar ut korrekta data när de går mot ett svar, istället för att belöna sig själva först vid slutsatsen. Systemet kan leda till bättre resultat eftersom det innehåller mer av en mänsklig-liknande tankekedja, enligt ingenjörerna.
Men några experter uttryckte tvivel om arbetet och sa till CNBC att det inte är till någon nytta förrän det har införlivats i ChatGPT, som under tiden kommer att fortsätta hallucinera. OpenAI har inte sagt om och när det kan införliva sitt arbete i sina generativa AI-verktyg.
Även om det är bra att veta att OpenAI arbetar med att lösa problemet, kan det ta ett tag innan vi ser några förbättringar. Under tiden, som OpenAI själv säger, kan ChatGPT ibland generera felaktig information, så se till att bekräfta svaren om de är en del av några viktiga uppgifter.
Stöd vårt arbete ❤️
Om du gillade den här artikeln, överväg att lämna dricks för att hjälpa oss fortsätta publicera bra innehåll.
