Vad hade Sokrates sagt om artificiell intelligens? Det är frågan som gästskribenten och ingenjören Anders Gustafsson ställer i dagens Tankespår. Kanske hade Sokrates likställt AI med sofisterna: bra på att låta övertygande, men sanningen blir sekundär.
Den grekiska filosofen Sokrates (ca 470–399 f.Kr.) anses vara grundaren av den västerländska filosofin. Han efterlämnade själv inga kända skrifter så det vi tror oss veta om honom lär vi oss från en av hans lärjungar, nämligen Platon. Sokrates levde och verkade i antikens Grekland och dog efter att ha dömts till döden för hädelse och för att ha perverterat ungdomen.
Som filosof var Sokrates kvick i tanken och rak i orden, en egenskap som lätt skapar fiender. Ett av hans många valspråk var ”Det outforskade livet är inte värt att leva”. Det räcker inte med att konstatera att något är på ett visst sätt, utan det viktiga är varför – en grundläggande vetenskaplig princip.
Så vad kan då en filosof som levde för 2 500 år ha haft att säga om AI? Jag tror faktiskt att Sokrates kunnat föreställa sig en maskin som tänkte, eller gav sken av att göra det. Atenarna hade ju oraklet i Delfi som de kunde fråga, men sällan fick de konkreta svar. De som i stället argumenterade och gav svar var sofisterna, Sokrates ärkefiender. De var högt utbildade och vältaliga män som gav råd och undervisade mot betalning. Så varför föraktade Sokrates och även Platon, sofisterna?
Jo, sofisterna värderade vältalighet och övertalningsförmåga över sanningen. En slipad sofist kunde övertyga i stort sett vem som helst, om vad som helst. Deras utsagor togs för sanning och deras lärjungar slutade tänka. Eller för att citera en samtida skribent:
”De låter andra leda sig och inte sitt eget hjärta och de kryper nedför gatan, plockande upp andras åsikter, tänker med öronen så att säga och inte med hjärnan.”
Vart vill jag nu komma med detta? Jo, dagens kommersiella chattbotar är optimerade för två saker: 1. Att låta övertygande, och 2. Att skapa engagemang. Sanningen är inte så viktig. En chattbot kommer att sträva efter att ge dig det svar du vill ha och om den inte har ett svar så hallucinerar den fram ett.
Nu är chattbottar inget nytt fenomen. På 1960-talet utvecklade Joseph Weizenbaum datorprogrammet Eliza, en datoriserad terapeut. Det finns flera implementationer av den på internet för den som vill testa. Det som skrämde Weizenbaum var att många av hans försöksobjekt trodde att Eliza var levande. Samma ser vi i dag, personer som skaffar en ”AI-pojk- eller flickvän” och är helt övertygade om att dessa är verkliga, tänkande individer, något som ibland har tragiska konsekvenser.
Om någon eller något bara låter tillräckligt säker så övertygas många. Studier visar att mindre än en tiondel av de som använder någon typ av AI-tjänster kontrollerar svaren. Samtidigt finns det andra studier som visar att nästan hälften av svaren från Copilot, ChatGPT, Perplexity och Gemini är fel. Ändå använder många dessa som sökmotorer.
Är då allt bara dåligt med AI? Naturligtvis inte. Stora språkmodeller (”large language models”, LLM:s) är otroligt kraftfulla, bara man vet deras begränsningar. LLM:s är helt suveräna på att transkribera tal. Modellen Whisper från OpenAI är imponerande. Visst gör den fel, men dessa hittar du lätt i texten och kan korrigera. Språkmodeller för översättning gör att jag kan läsa texter på språk jag inte behärskar och sådana använder jag ofta. Däremot ska man kanske vara försiktig med att översätta till språk man inte behärskar. Resultatet kan bli allt ifrån underhållande till katastrofalt.
Inom IT kan språkmodeller användas för att bygga snabba prototyper, förklara kod som någon annan skrivit eller analysera kod för att hitta svagheter, bara för att nämna några användningsområden.
Det gäller alltså att känna till styrkorna och svagheterna hos AI och LLM:s. Risken finns naturligtvis att vi får en AGI, en superintelligent maskin som kanske inte alls har samma mål som vi. Den kanske anser att det viktigaste är att tillverka gem eller suddgummin? Ett scenario som AI-forskaren Max Tegmark litet skämtsamt spekulerar om i boken ”Life 3.0”.
Jag oroar mig dock mindre över att maskiner börjar tänka som människor och mer för att människor slutar tänka. För som Sokrates lär ha sagt: ”Vill du finna dig själv? Tänk då själv!”
Källor:
Citatet är från sidan 10 i ”How to think like Socrates” av Donald J Robertson
Scary New Report: Just 8 Percent of People Check AI Answers
BBC Finds That 45% of AI Queries Produce Erroneous Answers – JOSH BERSIN
