Historikern och författaren Harari gav it-cheferna på Gartner Symposium i Barcelona ett tydligt råd: sluta se AI som ett verktyg. AI är enligt honom den första tekniken som kan agera själv, och den som för in AI-agenter i ett företag bör tänka på det som att ta emot en invandringsvåg.
Hönsen vet inte att pengar finns. Ändå avgörs deras liv av ett system som de aldrig kommer att begripa. Med den metaforen förklarade Yuval Harari varför människan kan hamna i samma läge. Lika lite som hönsen förstår pengar skulle vi kunna förstå den matematik som AI en dag kan utveckla, menade han.
Yuval Harari intervjuades av John Thornhill, brittisk journalist på Financial Times, under gårdagens gästkeynote på Gartner Symposium och återkom till hönsen två gånger under samtalet.
Ett mål utan medvetande
– AI är den första tekniken som är en agent och inte ett verktyg, konstaterade Harari tidigt i samtalet.
Skillnaden förklarade han med tryckpressen. Den kunde inte uppfinna radion, men AI kan uppfinna bättre AI. Schackdatorn tog han som exempel på att ett system kan ha ett mål utan att ha något medvetande. Den vill vinna partiet, och mer än så behövs inte.
Gudar som ska förbli slavar
Harari såg en motsägelse i branschens planer. De stora techbolagen satsar på att bygga något som är långt mer intelligent än människan och räknar samtidigt med att kunna hålla det under kontroll.
– Den massiva investering som vi alla gör just nu bygger på antagandet att vi skapar gudar, men att de ska förbli slavar, sa han.
Kapplöpningen mot superintelligens fick ett lika hårt omdöme.
– Jag tror att det kanske är det största marknadsmisslyckandet i historien, sa Harari.
Födda på kontoret
Den del av samtalet som låg närmast it-chefernas vardag handlade om byråkrati. Enligt Harari bygger människans makt på byråkratin, och byråkratin bygger på språk.
– Byråkratin är historiens underskattade hjälte, sa han.
Där har AI sin hemmaplan. Harari räknade med att AI-systemen skulle ta över de system som håller ihop civilisationen.
– AI är byråkratins infödda. De föddes på kontoret, inte i skogen, förklarade han.
Minst 500 miljarder euro per land
När samtalet gled över till Europa handlade det om vem som ska äga infrastrukturen. Harari skissade på tre vägar. Den första är att bli vasallstat till USA eller Kina. Den andra är att varje land bygger sin egen AI-infrastruktur, vilket enligt honom skulle kosta minst 500 miljarder euro per land. Den tredje är att länderna bygger tillsammans inom EU, men det kräver en djupare integration.
Harari föredrog den tredje vägen. Han trodde ändå inte att det skulle bli så, och menade att Europa i dag är på väg mot den första.
Säkerheten först
Hans råd till it-cheferna i salen var att byta synsätt när AI-agenterna förs in i verksamheten.
– Tänk inte i termer av verktyg. Tänk i termer av att integrera en invandringsvåg, sa han.
Just nu handlar det enligt Harari framför allt om att använda AI på ett säkert sätt, och en del av svaret är att lära människor att behålla sin egen handlingskraft. Han tog de smarta kylskåpen som exempel på hur sårbart det blir när allt kopplas upp, och menade att dumma kylskåp är mycket bättre.
– Det är som en kedja med hundra länkar. Är en enda länk osäker rasar allt.
