I detta experimentella projekt, där vi försöker bilda den artificiella intelligensen Kim Svensson, använder Frihetsförmedlingen bland annat ny teknik inom machine learning undersöka viktiga frågor om moral, ansvar och byråkrati. Projektet är en liten men ambitös hybrid av konstnärlig undersökning, vetenskaplig studie och teknikutveckling, där vi i processen att försöka lära upp en AI-byråkrat tvingas söka upp nya möjligheter att bättre förstå digitaliseringen som fenomen.

Kort om genomförande
Som nyfödd AI-byråkrat beger sig Kim Svensson ut på en gesällvandring. Först och främst går hen igenom Statens Offentliga Utredningar några tusen gånger för att marineras i myndighetssvenska och förvaltningskultur. Träning i empati och fantasi behövs också och denna är tänkt att erhållas genom maskinstudier i t.ex. filosofi, psykologi, sociologi eller konst. Kim får under sin bildningsgång pröva två slags machine learning. Den ena modellen utgår ifrån vad vi anser att hen bör lära sig. I den andra styr AI:n själv sin bildningsgång, vilket ger oss möjlighet att studera maskinens förmåga att på egen hand utveckla moralisk agens.

Bakgrund
Byråkrati blev en stormakt under 1900-talet. Då lärde vi oss också att den lika effektivt tjänar både gott och ont – en lärdom som verkar ha trängts undan i vår tid när också politiken byråkratiserats, liksom kulturen. Digital teknik har samtidigt gjort kontroll och målstyrning löjligt enkelt, något som förstärker dagens ekonomism genom att okritiskt gynna det mätbara. Byråkratin styrs numera av algoritmer med en aptit på återkoppling som tvingar tjänstemännen att ägna det mesta av sin tid åt administration och rapporter. Samtidigt minskar stadigt utrymmet där inkännande byråkrater tidigare kunde använda erfarenhet och empati för att hjälpa utsatta människor. Resultatet har blivit en avhumaniserad byråkrati utan fantasi och mångfald.

Syfte och mål
Kim Svensson-projektet behandlar denna utveckling på ett innovativt sätt genom att undersöka möjligheterna för en artificiell intelligens med uppdrag att “humanisera och demokratisera” byråkratin inifrån, som ett alternativ till det hopplösa företaget att försöka kontrollera den utifrån med hjälp av gårdagens politiska maktmedel. Projektet vill också utforska om en motkraft behövs; en AI för tolkning och hantering av byråkratin, ett slags “allmänhetens motbyråkrat” som kan hindra myndigheter och organisationer från att utöva alltför konkret livspåverkan. En framtida AI av den typ vi lär upp kan kanske skapa ett skyddande tekniklager som exempelvis klarar att tolka byråkratiska texter och överklaga beslut. En sådan funktionalitet i befolkningens tjänst, som del av en byråkratisk kapprustning, ligger helt i linje med Frihetsförmedlingens uppdrag både som konstverk och självorganiserad myndighet.

Projektansvariga
Projektet leds av Lars Noväng och John Huntington, konstnärer och initiativtagare till Frihetsförmedlingen. Simon Winter, interaktionsdesigner och fil dr i kognitionsvetenskap har det tekniska huvudansvaret för AI- utvecklingen. Han forskar för närvarande på AI och machine learning och har skrivit mycket om digitaliseringens påverkan på samhälle och kultur. Simon Winter driver också tankesmedjan Infontology.org tillsammans med humanekologen och idéhistorikern Per Johansson.

Dela:

Forskning  /  Projekt  / Kim Svensson, AI

Kim Svensson, AI

Frihetsförmedlingen tar bland annat hjälp av ny teknik inom machine learning för att i detta utvecklingsprojekt undersöka viktiga frågor om moral, ansvar och byråkrati

Kim Svensson, AI, som är en hybrid av konstnärlig undersökning, vetenskaplig studie och teknikutveckling, syftar till att lära upp en artificiell intelligens i byråkratiska praktiker och samtidigt studera utfall och konsekvenser av detta experiment. Projektet är fyllt av inbyggda utmaningar som sätter oss i närkontakt med digitaliseringen som samhällsfenomen.

Bakgrund

Byråkrati blev en stormakt under 1900-talet. Då lärde vi oss också att den lika effektivt tjänar både gott och ont – en lärdom som verkar ha trängts undan i vår tid när också politiken byråkratiserats, liksom kulturen.

Digital teknik har samtidigt gjort kontroll och målstyrning löjligt enkelt, något som förstärker dagens ekonomism genom att okritiskt gynna det mätbara.

Byråkratin styrs numera av algoritmer med en aptit på återkoppling som tvingar tjänstemännen att ägna det mesta av sin tid åt administration och rapporter. Samtidigt minskar stadigt utrymmet där inkännande byråkrater tidigare kunde använda erfarenhet och empati för att hjälpa utsatta människor. Resultatet har blivit en avhumaniserad byråkrati utan fantasi och mångfald.

Syfte och mål

Kim Svensson-projektet behandlar denna utveckling på ett innovativt sätt genom att undersöka möjligheterna för en artificiell intelligens med uppdrag att “humanisera och demokratisera” byråkratin inifrån, som ett alternativ till det hopplösa företaget att försöka kontrollera den utifrån med hjälp av gårdagens politiska maktmedel.

Projektet vill också utforska om en motkraft behövs; en AI för tolkning och hantering av byråkratin, ett slags “allmänhetens motbyråkrat” som kan hindra myndigheter och organisationer från att utöva alltför konkret livspåverkan. En framtida AI av den typ vi lär upp kan kanske skapa ett skyddande tekniklager som exempelvis klarar att tolka byråkratiska texter och överklaga beslut.

En sådan funktionalitet i befolkningens tjänst, som del av en byråkratisk kapprustning, ligger helt i linje med Frihetsförmedlingens uppdrag både som konstverk och självorganiserad myndighet.

Plan för genomförande

Som nyfödd AI-byråkrat ger sig Kim Svensson ut på en gesällvandring. Först och främst går hen igenom Statens Offentliga Utredningar några tusen gånger för att marineras i myndighetssvenska och förvaltningskultur. Träning i empati och fantasi behövs också och denna ska erhållas genom maskinstudier i t.ex. filosofi, psykologi, sociologi eller konst.

Kim får under sin bildningsgång pröva två slags machine learning. Den ena modellen utgår ifrån vad vi anser att hen bör lära sig. I den andra styr AI:n själv sin bildningsgång, vilket ger oss möjlighet att studera maskinens förmåga att på egen hand utveckla moralisk agens.

Kort om nuläge 2019

Kim lärde sig under 2018 att uttrycka sig såväl byråkratiskt som poetiskt, men kan ännu inte beslås med särskilt mycket moralisk agens. Generellt har vi konstaterat att kravet på stora datamängder och andra tekniska aspekter av machine learning tycks döma varje AI att återskapa (inte minst fördomar), snarare än skapa nytt.

Eftersom AI inte kan utöva omdöme med stöd av nuvarande teknik har projektet små utsikter att lyckas utveckla ett artificiellt intelligent moraliskt subjekt. Från och med 2019 har vi därför större fokus på att stärka förutsättningarna för de former av inlärning som Kim verkligen skulle behöva.  

Projektansvariga

Projektet leds av Lars Noväng och John Huntington, konstnärer och initiativtagare till Frihetsförmedlingen.
Simon Winter, interaktionsdesigner och fil dr i kognitionsvetenskap har det tekniska huvudansvaret för AI- utvecklingen. Simon forskar för närvarande på AI och machine learning och har skrivit mycket om digitaliseringens påverkan på samhälle och kultur. Han driver också tankesmedjan Infontology.org tillsammans med humanekologen och idéhistorikern Per Johansson.

Aktiviteter och artiklar:

❯ Samtidsbyråkraten

Som en del i undersökningen av hur byråkratisering och digitalisering påverkat våra institutioner genomförde Frihetsförmedlingen symposiet Samtidsbyråkraten på konstplattformen Skogen i Göteborg den 24 Mars 2018.

❯ Bibliotekskonferens

I november 2018 genomförde vi en performanceföreläsning om Kim-projektet på en konferens i Malmö som lyfte bibliotekens samspel med sitt närsamhälle och det möjliga mervärdet med meröppna bibliotek.

❯ Robotbyråkrati

I februari 2019 bjöd Frihetsförmedlingen in till en träff om byråkrati, konst och artificiell intelligens på SPLN i Malmö

❯ Senaste nytt om löneslaveriet

Frihetsförmedlingen medverkade i en utställning på Gylleboverket i april 2019 med projekten Kim Svensson, AI och Sveriges friaste byråkrat

Artiklar:

❯ Att titta runt i en vektorrymd

❯ En moralisk agent

Finansiering

Kim Svensson, AI genomförs med stöd från Kultur Skåne

Kim Svensson-projektet söker nu kontakt med annan AI-forskning.
Intresserad eller har tips?

Nå oss via info@frihetsformedlingen.se, eller kontaktformuläret nedan

Kontakta oss