I den ständigt föränderliga världen av folkhälsa framhålls innovationer som artificiell intelligens ofta som spelomvändare. Men som vi ser med Robert F. Kennedy Jr:s senaste drivkraft för AI i läkemedelsgodkännandeprocesser, är verkligheten mer komplicerad och oroande. Rapporteringar från CNN visar att FDA:s AI-verktyg, Elsa, genererar fiktiva studier, vilket väcker betydande frågor om integriteten i AI-genererad hälsoinformation.
Denna slutsats kommer från intervjuer med sex nuvarande och tidigare FDA-anställda. Medan några ansåg att Elsa var användbar för uppgifter som att sammanfatta mötesanteckningar, pekade andra på en oroande trend: AI:n har visat sig “hallucinera”—ett begrepp som används när AI fabricerar information eller missrepresenterar befintlig forskning. En anonym FDA-anställd noterade: “Allt som du inte har tid att dubbelkolla är opålitligt. Den hallucinera med självförtroende.”
Förstå AI-fel inom hälso- och sjukvård
Det grundläggande problemet med AI-verktyg är deras behov av mänsklig tillsyn. Att förlita sig på AI kan oavsiktligt leda till en ökning av felaktiga slutsatser—särskilt i höginsatsmiljöer som hälso- och sjukvård. En nyligen genomförd studie visade att uppgifter som utfördes med AI faktiskt tog 20 % längre tid för mjukvaruutvecklare, vilket tyder på att många som tror att AI sparar tid kan vara felinformerade.
FDAs oroande rapport
I maj släppte Kennedys Make America Healthy Again (MAHA) kommission en rapport fylld med referenser till studier som inte existerar. En analys av NOTUS bekräftade minst sju falska citat. Detta väcker frågan: använde de Elsa för att utforma denna rapport? Sanningen förblir oklar.
Kostnaden för AI
När Elsa introducerades den 2 juni, hyllades den som ”kostnadseffektiv”, med en rapporterad initialkostnad på bara 12 000 dollar under sin första vecka. Även om det låter imponerande, måste man undra: är kvaliteten på resultatet värt priset? Om noggrannhet har lägre prioritet, kan Elsa excellera i att producera hastigt innehåll—potentiellt undergräva folkhälsobeslut.
Oro från FDA-anställda
CNN dokumenterade att när FDA-personalen frågade Elsa om grundläggande information, som antalet godkända läkemedel för barn, gav AI:n tyvärr felaktiga svar. Även om det erbjöds ursäkter för sina felaktigheter, gör det lite för att lösa det grundläggande problemet—desinformation kvarstår.
Vad betyder detta för läkemedelsgodkännanden?
Kennedys påståenden om att AI kommer att påskynda läkemedelsgodkännandeprocessen förblir spekulativa i bästa fall. I juni, under ett vittnesmål inför en husunderkommitté, föreslog han att AI redan påskyndar godkännanden. Men hur integreras egentligen denna teknik i en så kritisk process?
Varför bärbara hälsotekniker?
Kennedy förespråkar också bärbar hälsoteknik för alla amerikaner inom de kommande fyra åren. Medan president Trumps val av Surgeon General, Casey Means, leder ett företag som övervakar glukosnivåer hos icke-diabetiker, varnar experter för att kontinuerlig övervakning för dem utan diabetes kan vara onödig.
Åtgärda oro över AI:s trovärdighet
FDA-kommissionären Marty Makary erkände att AI-verktyg som Elsa potentiellt kan ”hallucinera.” Men han hävdar att detta inte är annorlunda än många stora språkmodeller. Även om hans poäng är giltig, väcker en förlitan på en oprövad teknologi allvarliga frågor om dess tillämpning inom folkhälsan.
William Maloney från FDAs snabba responskontor utfärdade ett uttalande som förnekar att CNN feltolkat deras användning av AI, men löser det oroarna? Med otillräckliga svar som lämnar många frågor obesvarade, förblir framtiden för AI i läkemedelsgodkännanden osäker.
Kan AI litas på för att förbättra folkhälsosresultat? Juryn är fortfarande ute. Den fortsatta förlitan på AI-system som Elsa betonar en kritisk punkt—medan teknologi kan vara ett verktyg för förbättring, kan det utan noggrant tillsyn orsaka mer skada än nytta.
Vad är konsekvenserna om AI-verktyg fortsätter att snedvrida forskningsdata? Konsekvenserna kan vara allvarliga, vilket påverkar liv och samhällen. Att kritiskt engagera sig med teknologi säkerställer att vi prioriterar människors hälsa framför allt.
När vi utforskar dessa utvecklande teknologier, överväg att dyka djupare i andra relaterade ämnen. För ytterligare insikter och omfattande guider, besök Moyens I/O på Moyens I/O.
Stöd vårt arbete ❤️
Om du gillade den här artikeln, överväg att lämna dricks för att hjälpa oss fortsätta publicera bra innehåll.
