The Signifier

När Google precis hade börjat doppa tårna i machine learning och vi fick möjlighet att generera bilder som snarare påminde om LSD-hallucinationer än nåt påtagligt (vilket konstigt nog var säkert mer betydelsefullt än dagens AI-slop) satt David Fenner i Chile och tänkte på framtiden. Hur kommer AI att se ut, och vad kommer den att kunna göra?

Resultatet blev ett spel. Som var före sin tid, men som nu nog ligger precis rätt i tiden. Ett spel om AI. Om dess kraft. Och vad vi bör göra, och kanske desto mer, låta bli att göra med den.

Johanna Kast, en toppchef på ett IT-bolag hittas död i sin lägenhet. Misstänkt drogöverdos. En viktig affär håller på att gå i stöpet, och var det verkligen en överdos eller är det ett mord vi har med att göra? Technology Safeguard Bureau vill verkligen veta och de känner till dig, Frederick Russell, och din experimentella AI-dator Dreamwalker som verkar kunna tolka människors minnen, deras undermedvetna och skala av deras ego för att hitta den sanna kärnan.

Med viss övertalning och en nypa utpressning tar du dig an fallet och har plötsligt tillgång till Johanna Kasts hjärna, digitaliserad och inläst av Dreamwalker. Du hoppar in i en person och utforskar hennes djupaste hemligheter för att få reda på vad som egentligen lett till hennes död.

Det är, utan att överdriva, inte helt oproblematiskt. Mysteriet med Johannas död blir snart en bakgrundsdistraktion, för här har du tillgång till en persons hela jag. Det är ett övergrepp utan dess like. Bara för att du kan, borde du?

David Fenner ställer svåra frågor. Och det som börjar med en diskussion om AI blir snart också både ett psykologiskt och en filosofiskt debattinlägg. Spelet är fiktivt måhända, men teknologin är inte så avlägsen som vi tror. DeWave har genom en neurologhuva kunnat läsa tankar och översatt dem till texter. Man har via en fMRI scan kunnat få AI att återge ett föremål som en person har tittat på. Vart går gränsen? Får våra tankar fortsatt vara privata?

Bara för att vi kan, borde vi?

The Signifier ställer inte frågorna, det tvingar oss att dyka rakt ner i dem. Dess lösning är det klassiska - vill du inte veta mer är det bara att stänga av. Men du fortsätter att spela. För det är ju vad man gör med spel, man spelar dem. Men också, du är ändå ganska nyfiken, vilka var Johanna Kasts mest mörka hemligheter?

Och det här är ändå bara ett spel, vem bryr sig?