Min mask var för smart för att vara mitt fel

Varje gång en AI-vd går upp i en talarstol och varnar för att deras egen produkt kanske rymmer borde någon i publiken fråga det uppenbara: rymmer från vem, alltså? Från dig? Du som byggde den, tränade den, släppte ut den och tar betalt för den varje månad?

Det finns redan ett ord för mjukvara som tar sig in där den inte ska och gör saker ingen bett om. Ordet du söker är inte superintelligens. Det är malware.

Masken som var så himla duktig

Om jag skriver en mask. Den är riktigt bra. Den tar över 300 datorer på en kvart, sprider sig vidare och ställer till jävelskap överallt den kommer åt.

Polisen knackar på. Och jag förklarar lugnt att jag tyvärr inte kan hållas ansvarig, eftersom masken var så otroligt kapabel. Den tog liksom egna beslut. Den rymde.

Ingen skulle köpa det. Ingen har heller köpt det. Robert Tappan Morris släppte sin mask 1988, hävdade att den aldrig var tänkt att göra skada, och blev ändå den förste som dömdes under USA:s nya dataintrångslag. Morris gjorde den. Morris släppte den. Morris fick smisk.

Det finns bara två möjligheter när ens kod löper amok. Antingen ville man att den skulle göra det, och då är det uppsåt. Eller så var man för dålig på att hålla koll, och då är det vårdslöshet. Det finns inget tredje alternativ som heter den var för bra.

Farligheten som säljargument

När Anthropic och OpenAI pratar om risker låter det inte som en ursäkt. Det låter som en reklamfilm.

Vår modell är så kraftfull att vi själva är lite rädda för den. Översättning: köp den, den är bäst. Varje varning om att tekniken kanske glider dem ur händerna är samtidigt ett löfte om att den kan mer än konkurrentens.

Och vi sväljer det. Vi pratar om AI-säkerhet som om det vore ett naturfenomen, som väder, något som bara händer och som vi alla gemensamt måste hantera. Vi håller konferenser. Vi skriver ramverk. Vi diskuterar om modellen har mål.

Det vi bör komma ihåg är också att vi har åtminstone inte läst något om att Qwen, Deepseek, Kimi eller GLM har rymt. Eller att någon stackare som kör någon av dessa modeller hemma har råkat ut för att modellen rymt. Det verkar nästan som att rapporterna bara kommer från nån som både har något att vinna på det och har råd med eventuella konsekvenser… fan tro’t.

Ingen diskuterar om en mask har mål. Vi frågar vem som skrev den.

Snälla, reglera oss

Sen kommer det riktigt rörande: bolagen ber om att bli reglerade. Står i kongressförhör och nästan gråter av ansvarskänsla.

Det här har ett namn, och det är regulatory capture. Den som redan sitter på datacentren, juristerna och lobbyisterna har inga problem med licenskrav, granskningsprocesser och compliance-avdelningar. Det har däremot det lilla bolaget som tänkte börja konkurrera nästa år. Varje paragraf de efterfrågar är en vallgrav runt deras eget slott, och vi ska tacka de besuttna för att de gräver.

Hästen är redan ute, och den har kopierats

Dessutom är det för sent. Open weight-modeller ligger fritt nedladdningsbara. Kunskapen om hur man tränar dem finns i tusentals forskningsartiklar, kurser och kodförråd. Det som var spjutspets för ett år sedan kör folk hemma på en speldator i dag.

Och tror någon på allvar att Kina pausar för att ett gäng amerikanska vd:ar frivilligt lovat att ta det lite lugnt? Kina kommer inte bry sig ett skvatt. En självvald paus i väst håller inte AI tillbaka. Den håller bara inhemsk konkurrens stången medan de som redan ligger först fortsätter i sin egen takt.

Alla får ha AI, utom du

Och så har vi regeringarna, som ska lösa det här åt oss. Problemet är att stater alltid har haft svårt att reglera det de själva har nytta av.

Militären vill ha AI. Polisen vill ha AI. Underrättelsetjänsterna vill verkligen ha AI. Migrationsverket, Skatteverket och Försäkringskassan står i kö.

Så regleringen kommer inte att träffa dem. Den kommer att träffa oss. Den farliga AI:n är nämligen alltid den som vanligt folk kör hemma, aldrig den som myndigheten köper upp.

Ansvar, inte tillstånd

Lösningen är inte fler tillstånd som bara jättarna har råd med. Det är samma princip vi redan har för all annan kod: den som bygger och släpper något ansvarar för vad det gör.

Reglera det som det är, alltså. Inte som ett okänt väsen som kan fly, utan som kod med en upphovsman och en adress. Det är dit stämningen ska skickas.