När forskningen går framåt inom AI-området börjar begreppet AGI (Artificial General Intelligence) att gå från teori till verklighet. Det råder ingen tvekan om att vi lever i den inledande fasen av AI-åldern, med många generativa AI-applikationer redan tillgängliga. Men vad är nästa steg? Är AGI framtiden? För att förstå vad som är artificiell allmän intelligens (AGI), och hur det kan påverka mänskligheten, läs vidare.
Vad är artificiell allmän intelligens eller AGI?
När det gäller definitionen av AGI finns det ingen bred konsensus om vad det innebär bland forskare och AI-labb. Termen AGI – artificiell allmän intelligens – förstås dock främst som en typ av AI-system som kan matcha eller överträffa mänskliga förmågorsärskilt i kognitiva uppgifter.
Många AI-labb har sin egen definition av AGI. I februari 2023, OpenAI förklarade vad AGI betyder för dem: ”AI-system som generellt är smartare än människor”. Företaget vill utveckla AGI som kan gynna hela mänskligheten. I samma andetag erkänner OpenAI de ”allvarliga” riskerna förknippade med en teknik som AGI som har potentialen att ”missbruk, drastiska olyckor och samhällsstörningar”.
Shane Legg, en av DeepMind (nu Google DeepMind) medgrundare, och för närvarande Chief AGI-forskare vid samma företag, myntade termen AGI tillsammans med Ben Goertzel, hans forskarkollega. Legg säger att AGI är en väldigt bred sak. DeepMinds placera på AGI är att ett sådant system ”måste inte bara kunna utföra en rad uppgifter, den måste också kunna lära sig hur man gör dessa uppgifter, bedöma dess prestation och be om hjälp när det behövs.”
Google DeepMind-teamet har kritat fram olika nivåer av AGI: framväxande, kompetent, expert, virtuos och övermänsklig. För närvarande har frontier AI-modellerna visat något framväxande beteende, tror DeepMind-forskare.
Egenskaper för AGI
Precis som det inte finns någon bred konsensus om definitionen av AGI, är dess egenskaper inte heller väldefinierade. AI-forskare säger dock att en AGI på mänsklig nivå borde kunna resonera som människor. Och fatta beslut även under osäkerhet. Den bör ha kunskap om nästan vad som helst, inklusive förståelse för sunt förnuft.
Dessutom ska ett AGI-system kunna planera och skaffa nya färdigheter. Den ska lösa öppna frågor och kommunicera på ett naturligt språk. Kognitionsforskare hävdar att AGI-system också borde ha egenskaper som fantasi att forma nya idéer och koncept. AGI-egenskaper inkluderar även fysiska egenskaper som förmågan att se, hör, rör sig och agera.
För att testa om AI-modeller har nått AGI finns det många tester, inklusive de berömda Turing test. Uppkallad efter datavetaren Alan Turing, är testet ett sätt att se om ett AI-system kan efterlikna mänskliga samtal tillräckligt bra. Detta för att en person inte ska kunna se om de pratar med en maskin.
Många tror att nuvarande AI-chatbotar redan har klarat Turing-testet. Men testet föreslår också att en maskin ska uppvisa intelligent beteende som motsvarar människor. Andra tester inkluderar Anställningsprovetföreslagen av John Nilsson. Den säger att en maskin ska kunna utföra ett avgörande jobb, liknande människor.
Steve Wozniak, medgrundare av Apple, har också föreslagit Kaffetestet för att utvärdera ett intelligent AI-system. Han säger att ett tillräckligt intelligent AI-system ska kunna hitta kaffemaskinen, tillsätta vatten och kaffe och slutföra bryggprocessen utan att behöva någon mänsklig insats.
Nivåer av AGI
OpenAI tror att AGI inte kommer att uppnås i ett skott istället, det kommer att finnas flera stigande nivåer av framsteg för att äntligen uppnå AGI. Bloomberg rapporterade nyligen att OpenAI har kommit med fem nivåer av framsteg mot att förverkliga AGI-målet.
Den första är Konversations-AI där vi för närvarande är med chatbots som ChatGPT, Claude och Gemini. Den andra nivån är Resonerande AIdär AI-modeller kan resonera som människor. Vi är inte här än. Den tredje nivån är Autonom AIdär AI-agenter kan utföra åtgärder autonomt för användarens räkning.
Den fjärde nivån är Innoverande AIdär intelligenta AI-system kan förnya och förbättra sig själva. Och slutligen är den femte nivån Organisatorisk AIdär ett AI-system kan utföra åtgärder och utföra uppgifter för en hel organisation utan att behöva människor i slingan. Den här typen av AI-system kan misslyckas, lära sig, förbättra och arbeta tillsammans med flera agenter för att utföra uppgifter parallellt.
AGI:s framsteg och tidsskala: Hur nära är vi att uppnå det?
Sam Altman, vd för OpenAI, tror att vi kan nå den femte nivån — Organisatorisk AI — under de kommande tio åren. Många experter har olika förutsägelser om när vi kan förverkliga AGI-drömmen. Ben Goertzel förutspår att vi kan uppnå AGI under de närmaste decennierna, möjligen på 2030-talet.
Geoffrey Hinton, populärt känd som ”gudfadern för AI” uttryckte initialt osäkerhet om AGIs tidslinje. Nu tror han att en allmän AI kanske bara 20 år kvar.
François Chollet, en framstående forskare på Google DeepMind och skapare av Keras, är av åsikten att AGI inte kommer att vara möjligt genom att skala nuvarande teknologier som LLM. Han har till och med utvecklat ett nytt riktmärke som heter ARC-AGI och startade en offentlig tävling för nuvarande AI-modeller för att lösa det. Chollet hävdar att AGI-utvecklingen har avstannat, och vi behöver nya idéer för att göra framsteg.
Yann LeCun, chefs AI-forskare på Meta säger också att LLM har begränsningar och är inte tillräckligt för att uppnå AGI eftersom de saknar intelligens och resonemangsförmåga.
Existentiell risk från AGI
Även om AI-utvecklingen är i full gång över hela världen, tror många experter att uppnåendet av AGI skulle äventyra mänskligheten. OpenAI medger själv de allvarliga riskerna som är förknippade med tekniken. Geoffrey Hinton, efter att ha slutat med Google, berättade CBS News att ”det inte är otänkbart” när man frågade om AI skulle kunna utplåna mänskligheten. Han betonade vidare att hitta sätt att kontrollera mycket mer intelligenta AI-system.
Eftersom ett AGI-system kan matcha mänskliga förmågor kan det leda till massarbetslöshet i många branscher. Detta kommer bara att förvärra de ekonomiska svårigheterna runt om i världen. OpenAI har redan publicerat ett papper som beskriver vilka jobb som kan ersättas av ChatGPT. Bortsett från det poserar ett så kraftfullt system risker för missbruk eller oavsiktliga konsekvenser om de inte är i linje med mänskliga värderingar.
Elon Musk har också slagit larm om farorna med AGI och att AGI-utvecklingen i första hand bör anpassas till mänskliga intressen. Förra året efterlyste Musk tillsammans med framstående ståndare inom branschen en paus i gigantiska AI-experiment.
Ilya Sutskever, medgrundare av OpenAI och tidigare chefsforskare, lämnade företaget för att starta en ny startup som heter Safe Superintelligence. Han säger, ”AI är ett tveeggat svärd: det har potential att lösa många av våra problem, men det skapar också nya. Framtiden kommer att vara bra för AI oavsett, men det skulle vara trevligt om det också var bra för människor.”
Ilya arbetar nu för att anpassa kraftfulla AI-system med mänskliga värderingar för att förhindra katastrofala utfall för mänskligheten. Timnit Gebru, en tidigare AI-forskare på Google, sades upp från företaget för att ha publicerat en artikel som lyfte fram riskerna med stora språkmodeller (LLM). Hon hävdar att istället för att fråga vad AGI är, borde vi fråga ”varför vi ska bygga det”.
AGI kan potentiellt påverka samhällets sociala struktur med omfattande förlust av arbetstillfällen. Detta kan ytterligare befästa ojämlikheten och leda till konflikter och brist. Därför ställer frågan – ska vi ens bygga den? Det finns många frågor och etiska problem som måste lösas innan vi börjar utveckla ett AGI-system. Vad tycker du om AGI? Låt oss veta i kommentarerna nedan.
Stöd vårt arbete ❤️
Om du gillade den här artikeln, överväg att lämna dricks för att hjälpa oss fortsätta publicera bra innehåll.
