handheld_smartphone

AI kan både hota och stötta den personliga integriteten

Det sägs att 2017 kommer att bli året då artificiell intelligens, eller AI, får sitt genombrott. Trendspanarna säger att många verksamheter kan skörda stora vinster, men definitionerna är inte solklara vad AI är. Man måste först tränga igenom en tjock dimma av hype för att identifiera vad det värdet består i, och det kan vara nog så svårt.

Jag hamnade på AW och mingel om Privacy After Hours arrangerat av International Association of Privacy Professionals, IAPP och Privasee med syftet att fira EU: s Dataskyddsdag 2017 som infaller lördag 28 januari.

Nu tar vi ytterligare ett steg

Under mina år som verksam på IT-området har jag stött på artificiell intelligens, AI, av och till. I början av 90-talet pratade man om kunskapsbaserade system eller beslutsstödsystem. Idag pratar vi framför allt om att datorisera den mänskliga hjärnan. Med AI tar vi ytterligare ett steg i utvecklingen mot ett nytt samhälle – från informationssamhället till beteendesamhället. Vi går från ”Det är”, alltså baserat på fakta, till ”Jag tror” eller ”Jag känner”, alltså till intuition och känslor. Strategier och tekniker bakom AI används för att härma intelligent beteende. Sedan återstår förstås frågan: Hur vet man att något är intelligent?

AI kommer påverka varje bransch

Nu tror man på allvar dock att AI kommer att påverka varje bransch, inte minst inom hälso- och sjukvården, där vi kan få möjlighet att ställa snabbare och säkrare diagnoser, ta fram mer verksamma läkemedel med mera. Detaljhandeln är en annan bransch som sparar mycket på att använda AI i sina logistiska system. Bilindustrin med självkörande bilar ligger redan långt framme.

AI har många grenar

Docent Anne Håkansson från KTH berättade under sin presentation att det inte finns någon entydig definition av ”artificiell intelligens”. Det finns mycket som trillar in under begreppet. Vi har till exempel:

  • bearbetning av naturligt språk och röststyrning
  • maskininlärning, neurala nätverk och deep learning
  • prediktiv programmering
  • kognitiv beräkning
  • expertsystem, kunskapsbaserade eller beslutsstödsystem
  • robotteknik
  • uppfattning och datorvisualisering som virtual reality (VR) och augmental reality (typ hologram)

Stark eller svag AI

Om vi skär det på en annan ledd kan vi också prata om stark respektive svag AI. Stark AI har något som liknar mänsklig intelligens och kan utföra intelligenta och intellektuella uppgifter. Den typen av maskiner kan hantera orsakssamband, komplexa problem, dra slutsatser, planera, lära sig kommunicera och innehar någon sorts medvetande.

Svag AI simulerar egentligen bara tänkande. Det kan visserligen hantera orsakssamband och lösa enklare problem, kan översätta mellan olika språk, göra stavningskontroller med mera, men förmågan är begränsad.

Olika områden inom AI

Kunskapsbaserade system simulerar förmågan hos en mänsklig expert att fatta beslut. Målet är att kunna ge råd och dra slutsatser som om det vore en mänsklig expert, eller bättre. Här hittar vi hela området business intelligence; AI-handlare på börsen, spel med mera. Det bygger bland annat på automatiskt beslutsfattande utan mänsklig inblandning.

Området behandling av naturligt språk och röstigenkänning innehåller moment som:

  • kunna interagera med datorer i skriftlig och talad form
  • involverar analys och förståelse av naturligt språk, sätter ihop och genererar meningar

Målet är att bygga program som analyserar, förstår och genererar mänskligt språk på ett naturligt sätt. Den tekniken har vi redan idag genom IBM:s Watson, Windows 7, personliga assistenter som Siri, Alexa, Cortana och Google now.

System som bygger på maskinlärning, neurala nätverk och så kallad deep learning är sådana system som lär sig utan att bli explicit programmerade för det. Istället använder de sig av exempel och komplexa algoritmer för att hitta mönster och trender och kunna förutsäga resultat.

Trendanalys är ett användningsområde, andra exempel är ansiktsigenkänning, att tolka handskrift, upptäcka kreditkortsbedrägerier, upptäcka tumörer i bilder och föreslå behandling på distans, spela komplexa spel som Go med mera.

Vad gör AI med den personliga integriteten

Det är klart att alla dessa forskare och uppfinnare vill skapa bra och nyttiga produkter och tjänster, men som bekant har varje mynt två sidor. En brödkniv som var tänkt att skiva bröd kan mycket väl huggas i ryggen på någon. Något som engagerar och berör många idag är förstås den personliga integriteten och hur den kommer att påverkas av AI.

Personlig integritet kan betraktas som en länk till varje människas frihet och identitet, det naglas fast i den europeiska konventionen om skydd för de mänskliga rättigheterna och de grundläggande friheterna. En delmängd av personlig integritet är personinformation, det vill säga all information som kan knytas till en individ. Med det nya regelverk som träder i kraft inom EU 2018, GDPR eller General data protection regulation, sätts individen i centrum och reglerna definierar våra rättigheter som individer. Det mesta är tydligt beskrivet i lagstiftningen.

Med AI, som trots allt är relativt oklart definierat, i andra vågskålen kommer det att bli en utmaning att hantera. Men vi ska inte vara alltför pessimistiska.

Företag som Google, Apple och andra lagrar stora mängder data om individer, deras beteenden, sammanhang och tekniska parametrar. Som användare vet vi dock inte hur spårbart det är tillbaka till individen, eftersom deras teknik och algoritmer oftast är hemliga och mer eller mindre en svart låda för användaren.

AI är visserligen gamla nyheter, men det är nu det händer. Och det bygger på att man har tillgång till data, mycket data, om oss, våra beteenden, fysiska tillstånd, geografiska belägenhet et cetera. Samtidigt ställer GDPR krav på att vi ska ha möjlighet att ta reda på var uppgifter om oss finns lagrade. Den bistra sanningen är att det finns väldigt få verksamheter idag som kan besvara den frågan på ett adekvat sätt. Eller, vi vet var det lagras – och det är molnet. Molnet som inte är något moln, utan bara någon annans dator. Problemet är att vi inte vet var den datorn står och vem som har tillgång till den.

AI kan öka transparansen

Där har AI möjlighet att öka transparensen genom att göra det enklare att de facto besvara frågan om var information om oss finns lagrad. I framtiden kanske vi som användare kan ställa frågan till vår telefon, platta, armbandsdator om var ett specifikt företag lagrar data om oss och faktiskt ställa företaget till svars om det skulle bryta mot regelverket.

I GDPR ställer man krav på inbyggt integritetsskydd, Privacy by design. Att programmera integritetsaspekterna som en del av en app redan från början. Den som utvecklar appar kommer alltså att kunna ställas till svars för dålig design.

Det för många så komplexa arbetet med efterlevnad (compliance) till kraven i regelverket är något för affärsutvecklare att ta tag i. Företag och organisationer behöver verktyg där de kan gå igenom sina databaser och få varningar om de har data som innebär att de bryter mot regelverket eller om de har individer i systemet som har hävdat sin rätt att bli glömda och så vidare.

För att AI inte ska bli ett problem för oss behöver vi höja medvetandet kring hur det kan användas. Algoritmerna har oftast goda föresatser, men det kan bli fel ändå. Privacy by design blir avgörande – vad vi matar in i systemet avgör vad vi kan få ut från det. Vi behöver också begränsa vad vi lägger i systemen, antingen genom avidentifiering, pseudonymisering, förvanskning eller andra tekniker som kan användas för att det inte ska gå att identifiera en individ.

Kan GDPR hjälpa oss att skapa en bättre balans?

Den etiska aspekten på insamling och hantering av personuppgifter följer med naturligt i det nya regelverket. Det måste finnas ett tydligt och definierat syfte med insamlingen av uppgifter liksom hur de kommer att användas, lagras och behandlas. Om användningen inte är solkar måste den som hanterar personinformation göra en bedömning av hur verksamheten påverkar den personliga integriteten. Det gäller också AI.

Min förhoppning är att GDPR kommer att stärka användarnas makt. Företagen får bara låna våra uppgifter så länge som vi går med på det, och AI hjälper oss att hålla reda på vilka uppgifter de har lånat av oss.

Etiketter: , , ,
Fyll gärna i vår enkät.

Om bloggaren

Anne-Marie Eklund Löwinder Säkerhetschef, IIS

Rankad som en av Sveriges främsta IT-säkerhetsexperter. En av få utvalda i världen att delta i nyckelgenereringen för DNSSEC i rotzonen för internet. Ledamot i ett flertal styrelser och remissvarare på statens offentliga utredningar om internet och säkerhet.

Lämna en kommentar

Svara på en kommentar

Obligatoriskt

Obligatoriskt

Frivilligt

Kommentarer

Ingen har kommenterat artikeln ännu.