Ansatte hevder de ser sex og nakenbilder via Meta-smartbriller

Metas smartbriller markedsføres som et futuristisk AI-produkt som kan oversette språk, gi informasjon i sanntid og fungere som en personlig assistent, men bak teknologien finnes en lite synlig arbeidsstyrke som ifølge en ny undersøkelse håndterer enorme mengder sensitivt materiale fra brukere – inkludert videoer av mennesker i svært private situasjoner.

Det avslører Svenske Dagbladet i en sak som har blitt plukket opp av BBC, og som kan få store følger for de til nå suksessfulle smartbrillene fra Meta som lages i samarbeid med Oakley og Ray-Ban.

Meta-briller samler visstnok intime videoer

En større journalistisk granskning gjennomført av Svenska Dagbladet og Göteborgs-Posten viser hvordan Metas AI-systemer delvis trenes av mennesker som sitter og analyserer video- og bildeopptak fra brillene. Flere ansatte hos en av Metas underleverandører forteller at de har sett materiale som viser alt fra bankkort til intime situasjoner i private hjem. Dette er altså eksplosivt PR-messig, om det er sant, og kan få store konsekvenser for Meta som er ledende på smartbriller og VR.

Brillene kan ta bilder og video, svare på spørsmål via AI-assistent og tolke det brukeren ser gjennom kameraet, men for å kunne gjøre dette må imidlertid data sendes til Metas servere der innhold analyseres. Her skjer det altså lite på selve enheten, som er en langt tryggere måte å gjøre det på – Apple er det eneste selskapet vi kjenner til som ikke bare gjør lokal prosessering, men som ikke en gang kan dekryptere innholdet om så FBI spør.

I Kenya følger det mennesker med

Ifølge granskningen skjer deler av denne analysen hos selskapet Sama i Nairobi i Kenya, som fungerer som en underleverandør for Meta. Her jobber tusenvis av medarbeidwere som har som arbeid å merke og beskrive bilder og video for å lære opp Metas AI-systemer.

Medarbeiderne beskriver hvordan de jobber lange skift og kategoriserer alt fra objekter og mennesker til samtaler og videoopptak. Flere forteller at de i arbeidet sitt også støter på svært privat materiale fra brukere av smartbrillene.

Noen av klippene viser mennesker som går på toalettet eller skifter klær uten å være klar over at de blir filmet, ifølge ansatte som har snakket med journalistene anonymt. Andre beskriver videoer der bankkort ligger synlig eller der personer befinner seg i intime situasjoner.

En av arbeiderne forteller at det føles ubehagelig å se slike opptak, men at de ikke har mulighet til å stille spørsmål ved materialet de får tildelt. De ansatte har strenge taushetsavtaler og risikerer å miste jobben dersom de bryter dem.

Knapp eller «Hey Meta»

Metas smartbriller aktiveres enten ved å trykke på en knapp på brillene eller ved å si kommandoen «Hey Meta». Når AI-funksjonen brukes, må data som bilder, lyd og tekst sendes til Metas systemer for behandling. Ifølge Metas egne brukervilkår kan slike interaksjoner også gjennomgås manuelt av mennesker.

Alle som vet litt om personvern mener naturlig nok dette skaper utfordringer for brukernes forståelse av hva de faktisk samtykker til, for hvem leser den lille skriften? Jurister peker blant annet på at brukere kanskje ikke alltid er klar over at kameraet kan være aktivt når de kommuniserer med AI-assistenten.

Databeskyttelsesmyndigheter i Europa understreker at selskaper som Meta må være tydelige på hvordan persondata behandles og hvor de lagres, særlig når data overføres til land utenfor EU.

Meta selv har ikke gitt detaljerte svar på hvordan privat materiale filtreres før det eventuelt når menneskelige data-annotatorer. Selskapet viser i stedet til sine generelle personvernregler og vilkår for AI-tjenester.