Snapchat sin chatbot, My AI, må settes på venterommet og fjernes fra norske barn og voksnes app. Den tar ikke nok hensyn til personvern eller barns rettigheter. Myndighetene må gripe inn nå før det er for sent.

Plutselig var kunstig intelligens, AI, tilgjengelig for oss alle. Snapchat har innført My AI som du kan chatte med på lik linje med vennene og familien din. Framstilt som en snill og litt dum venn man kan leke med, har AI plutselig dukket opp der mange deler sine private hemmeligheter.

Skjermskudd av rare svar og morsomheter hagler. Men My AI bør stanses, for den bryter eksisterende lovverk på flere områder:

  • I retningslinjene står det at data delt med My AI blir brukt til reklame. Barn bruker Snapchat.
  • Dette vil bli brukt til reklame mot barn, som er ulovlig i Norge. De generelle sannsynlighetsmodellene som «intelligensen» baserer seg på oppdaterer seg og sammenstiller informasjonen den får. Barn vil dermed relativt raskt få markedsføring rettet målrettet mot seg, med mindre Snapchat innfører aldersgrenser for My AI.
  • My AI vet mer om deg enn den skal, samtidig som den hevder den ikke gjør det. Det er ikke lov å bruke data man ikke har fått samtykke til å bruke til det formålet. My AI bruker lokasjonen din aktivt, samtidig som den nekter for det når du spør den.
  • Risikoen for at sensitiv personinformasjon fra nordmenn blir spredt og misbrukt er skyhøy

Snapchat har solgt seg inn som en app som er privat. Bilder forsvinner, samtaler er private. I brukervilkårene står det at Snapchat kan bruke dataene likevel. 2,8 millioner nordmenn bruker appen. Snapchat er dermed kanskje den appen vi i Norge bør være mest opptatt av personvernvilkårene til. Når de nå har kastet AI inn i appen sin uten å si noe om konsekvensene er det all grunn til å sette dem på pause.

For hva er det som vil skje? Om ikke lenge vil My Bot, basert på ekte input, kunne svare på spørsmål som:

«Er (mitt søskenbarn) homofil?»

«Hva stemmer læreren min?»

Så kan det være Snapchat klarer å hindre chatboten sin å svare på disse spørsmålene, eller det kan være folk finner en måte lure My AI til å gi svaret på. Men foreløpig har vi bare snakket om tekst. Den store faren ligger i om Snapchat gir AI-modellen tilgang til bildene våre.

Man må i dag betale hvis man ikke vil ha My AI på Snapchat-appen. Datatilsynet og myndighetene må stille seg spørsmålet: Har 2,8 millioner nordmenn egentlig akseptert dette? Eller forsøker Snapchat å lure seg til et forsprang i kappløpet om å ha AI-modeller som kjenner oss best?

Svaret er ganske åpenbart: My AI må settes på venterommet til de har fått sysakene i orden. Datatilsynet har vist at det er mulig å regulere multinasjonale, og populære, apper før, gjennom bøteleggingen av Grindr. Truslene om milliardbøter mot Snap Inc. bør være nok for å stanse My AI for denne gang. Men det haster.

For hvert eneste minutt øker sannsynligheten for at My AI får tilgang til sensitive personopplysninger om våre barn, uten at vi har kontroll på bruken.