Overvåkningskapitalisme i norske klasserom
Hvordan kan sosiologisk teori om overvåkningskapitalisme belyse bruken av Google sine produkter og tjenester i norsk skole?
“Norsk skole har som formål å fremme demokratiske verdier i opplæringen av «aktive medborgere». Da er det påfallende at stadig mer av opplæringen foregår i en digital infrastruktur, som i følge vitenskapelig kunnskap, viser seg å ha antidemokratiske tendenser. Offentlige midler er sågar med på å finansiere krefter som svekker deler av dets egne verdigrunnlag.”
Bakgrunn
I februar 2020 ble det kjent at Datatilsynet iverksetter granskning av lovligheten av bruk av Google sine tjenester i skolen (Jansen, 2020). «Google er et av verdens mest verdifulle selskaper. Forretningsideen deres er å samle inn data om brukerne. Da er det klart at vi i langt større grad burde ha diskutert hvilken rolle dette selskapet skal ha i norsk skole», uttalte direktør i Datatilsynet Bjørn Erik Thon (Jansen, 2020, s. 6). I samme artikkel legger Thon til at debatten rundt bruk av Google i skolen har «gått under radaren», og at vilkårene til eksempelvis Google er «fryktelig vanskelige å forstå». Thon konkluderer med at ansvaret for digitalisering i skolen bør ligge på et overordnet nasjonalt nivå, og ikke hos den enkelte kommune slik det gjør i dag. Senter for IKT i utdanningen, som nå er fusjonert med Utdanningsdirektoratet (2019b), har i sin tid påpekt mangler av digital kompetanse hos den enkelte kommune (Jelstad, 2016, s 19).
Det finnes flere eksempler på at beslutninger vedrørende bruk av digitale verktøy i grunnskolen fattes på kommunenivå. De siste i rekken finner vi i sammenheng med nedstengningen av norske skoler som følge av viruset SARS-CoV-2 våren 2020, hvor nærmest alt av undervisning ble overført til digitale flater. For å muliggjøre en hverdag med hjemmeskole for både lærere og elever, gikk eksempelvis Bergen kommune til innkjøp av 5725 Chromebook-enheter til elever på mellomtrinn i kommunen (Flatekvål, 2020). Slike tiltak vil av Bergsjø & Stenvik (2020) betegnes som «krisedigitalisering», hvor de etterlyser en mer helhetlig planlegging og ledelse ved innføring av digitalt utstyr i skolen. Bergsjø & Stenvik (2020) frykter at rammebetingelsene for det norske skoleverket kan bli formet av kommersielle interesser dersom man ukritisk benytter seg av digitale verktøy i skolesammenheng. Tjenester med lave eller ingen driftskostnader går ofte på bekostning av barns personvern, og barns arbeid blir blant annet brukt til opptrening av algoritmer — med mindre man gjør noe med kommersielle selskapers inntreden i klasserommet (Bergsjø & Stenvik, 2020).
Det digitale skiftet
For å forstå problematikken som ligger bak innføringen av Google Chromebook og Google sin software G Suite for Utdanning (GSFU) i et sosiologisk perspektiv, må vi se på de grunnleggende aspektene ved det professor emerita ved Harvard Business School, Shoshana Zuboff, omtaler som overvåkningskapitalisme. Shoshana Zuboff (2015; 2019a; 2019b) sine verk om den skjulte infrastrukturen i teknologiselskapers måte å operere på er i dag det mest omfattende og kjente forsøket på å formalisere teori og begrep som omhandler fremveksten av en ny type kapitalisme som livnærer seg på overvåkning av individers adferd konvertert til data.
Zuboff erklærer tiden hvor vår verden og våre liv inneholdt personlige og private aspekter som død, og vi feiler i å forstå hvilket enormt tap dette medfører for både individ og samfunn (Zuboff, 2019b). «Det store digitale skiftet» har ledet til at alle aspekter ved våre liv blir gjennomsyret av digital teknologi, og våre menneskelige opplevelser blir subjekt for et usynlig, farlig, selvforsynt «beist» som Zuboff (2019b, s. 75) kaller «surveillance capitalism» (overvåkningskapitalisme).
Zuboff (2019b) argumenterer for at den hurtige fremveksten av ny teknologi i et uregulert marked har oppfostret «en ny økonomisk verdensorden hvor menneskelige erfaringer er en gratis råvare skjult for kommersiell utvinning, prediksjoner og salg» (s. 1). Under denne nye markedslogikken har digital infrastruktur som for eksempel e-post, nettsøk, sosiale medier og underholdning blitt tilbudt «gratis» til sluttbrukerne, mens tilbyderne av disse digitale tjenestene og produktene har på sin side endt opp med stor økonomisk profitt (Zuboff, 2015; 2019a; 2019b).
Med et kritisk narrativ presenterer Zuboff (2019b) teori og empiri på hvordan overvåkningskapitalismen tjener godt på å bygge teknologi som gjennomsyrer hele opplevelsen av å være menneske. Som et retorisk grep stiller Zuboff (2019b, s. 174) spørsmålene «hvem vet», «hvem bestemmer», og «hvem bestemmer hvem som skal bestemme» gjentatte ganger. Spørsmålene Zuboff stiller er ment som et argument om hvordan overvåkningskapital tar kontroll og tilbyr egne svar på spørsmål som definerer kunnskap, autoritet og makt i demokratiske samfunn. Hvem er det som egentlig profitterer på mulighetene informasjonsteknologien tilbyr; borgere eller overvåkningskapital? Måten nasjonale og internasjonale samfunn responderer på utfordringene overvåkningskapitalismen bringer vil ifølge Zuboff (2015) få minst like vidtrekkende konsekvenser for sivilisasjoner i det 21. århundret som industriell kapitalisme gjorde for sivilisasjoner i de to foregående århundrene (Zuboff, 2019b, s. 1). Zuboff (2019b) maner til kamp (s. 525), og mener det er på tide å våkne dersom man ikke ønsker at en allvitende «instrumentell makt» i form av transnasjonale selskaper med en diktatorisk-preget ledelsesstruktur skal forme premissene for hva det vil si å være medborger i dagens og fremtidens demokratiske samfunn.
Big data, ekstraksjon, analyse og prediksjon
«Big data», eller «stordata», er ifølge Zuboff (2019b, s. 75) både en betingelse og et uttrykk som utgjør en del av overvåkningskapitalismens videre logikk for akkumulering. Med akummulering menes en opphopning av økonomisk og reel makt hos noen få selskaper (Zuboff, 2019b, s. 85). Fenomenet «big data» inngår i teknologiselskapers forretningsmodeller, hvor menneskelig adferd blir benyttet som en utømmelig ressurs i et fritt, uregulert marked. Enjolras (2014) definerer «big data» som en «[…] en samlebetegnelse for data som er av et slikt omfang at de krever mer enn vanlig datakraft for å samles inn, lagres og analyseres» (s. 80).
Alle aspekter av menneskelig adferd kan bli tallfestet i form av data, det er kun begrensninger av menneskets persepsjon av verden og dets operasjonalisering av datainnhenting som innskrenker hva slags type informasjon «big data» kan innhente (Greenfield, 2017, s. 210). Enjolras (2014, s. 80) påpeker, i likhet med Zuboff (2015; 2019a; 2019b), at «big data» medfører både tekniske, juridiske og etiske utfordringer. Uten brukernes samtykke innebærer «big data» en registrering av faktiske interaksjoner og transaksjoner som er direkte koblet til individer gjennom dannelse av «algoritmiske identiteter», noe som gjør det mulig å spore brukere basert på hvordan de bruker digitale tjenester på tvers av plattformer (Lind & Nolin, 2016; Zuboff, 2019). Med det sagt, er ikke big data en uungåelig konsekvens av teknologiens fremskritt. Big data er legitimert i sosial diskurs av selskaper som Google, hvor de positive følgene av teknologien skygger over den skjulte arkitekturen som er designet for å ekskludere og forvirre offentligheten (Zuboff, 2019b, s. 189).
«Big data» muliggjør behandling av store mengder variert data, og disse dataene er som oftest ekstrahert utenfor individs viten og kontroll (Zuboff, 2019b, s. 85). Zuboff (2015; 2019b) skriver at «ektraksjonsimperativet» illustrerer fraværet av en gjensidig fordelaktig struktur for både selskaper og deres populasjoner. Ekstraksjonsimperativet er en énveisprosess, ikke et forhold. Denne nye markedslogikken, hvor menneskelig adferd ekstraheres og konverteres til data, brødfør «big data», og undertrykker brukere basert på et uklart regelverk som iverksetter mekanismer som ekstraherer, kontrollerer og setter individ i eksil fra deres egen adferd (Zuboff, 2019b, s. 85)
Under regimet til «Det Store Andre» tilbyr teknologi løsninger for individers behov, samtidig som deres liv blir plyndret av adferdsdata for kommersiell vinning (Zuboff, 2019, s. 53). Evnen til å ekstrahere og behandle store mengder data, er sammen med algoritmer og kunstig intelligens utgangspunkt for å predikere — og manipulere — adferd (Enjolras, 2014; Forbrukerrådet, 2020, s. 46). For å kunne predikere adferd trengs det variert data («scope») i store mengder («scale») (Zuboff, 2019b, s. 67). Omfanget og bruksområdene strekker seg lengre enn målrettet reklame. Cambridge Analytica sin innblanding i det amerikanske presidentvalget i 2016 og folkeavstemningen i Storbritannia om løsrivelse fra EU er velkjente eksempler på digitale plattformers påvirkningskraft i demokratiske prosesser (Forbrukerrådet, 2020, s. 50; Zuboff, 2019a, s. 17). Teknologiselskaper som benytter seg av «big data»-teknologi er i besittelse av verktøy som har stor innflytelse og makt over viktige samfunnsinstitusjoner og sivile liv. Uten noen form for respons fra verken samfunn eller stat, ligger forholdene til rette for at overvåkning blir den dominerende formen for kapitalisme i vår tid (Zuboff, 2019b, s. 53).
Google er ansett som pionerselskapet bak «big data» og ekstraksjonsimperativet. De økonomiske fordelene ved å basere forretningsmodellen sin på overvåkning og innhenting av data ble tydelig da Google ble børsnotert i 2004. På tre år, fra 2001 til 2004, hadde selskapet økt sine inntekter med hele 3590 prosent, fra 86 millioner amerikanske dollar i 2001 til 3,2 milliarder amerikanske dollar i 2004 (Zuboff, 2019a, s. 14). I 2017 ble Googles moderselskap Alphabet verdsatt til over 652 milliarder dollar (Singer, 2017a).
Google ble det største og mest suksessfulle «stordata»-selskapet på grunn av at selskapet eide verdens mest besøkte webside, og er derav i besittelse av den største kilden til «adferdsoverskudd» (Zuboff, 2015). Med en forretningsmodell, lovløshet og retorikk som alltid var et steg foran loven, har Google ifølge Zuboff (2019, s. 87) inspirert utallige andre teknologiselskaper til å drive rovdrift på adferdsdata. Google, nå underlagt moderselskapet Alphabet, har hatt en todelt langtidsstrategi (Morozov, 2017). Ved å tilby tungt subsidierte tjenester gratis har Alphabet tillat seg selv å hente inn store mengder data (Morozov, 2017). Større mengder data har på den ene siden skapt mer individuelt tilpassede tjenester for hver enkelt bruker. På den andre siden har de samme store datamengdene tillat Alphabet å trene opp sine egne algoritmer og modeller for kunstig intelligens (Tennøe & Prabhu, 2017; Morozov, 2017). Som Zuboff (2015, s. 79) bemerker, vil alt som leder til økt Internett-bruk berike Google. Dette forklarer hvorfor Google er villige til å tilby gratis Internett til Starbucks sine 3 milliarder årlig besøkende (Schmarzo, 2014, sitert i Zuboff, 2015, s. 79).
Ifølge Zuboff (2019b) mente Durkheim at den mest destruktive formen for ulikhet var ekstrem asymmetrisk makt, hvor de som sitter med makt ser seg blind på hvordan deres makt og formue er til hinder for fri konkurranse (s. 184). At overvåkningskapitalisme fasiliterer en skjev fordeling av makt gjør Google vanskeligere å regulere (Zuboff, 2019b, s 19). Google er et verdensledende selskap innen kunstig intelligens, og at dataingeniører heller vil jobbe for Google enn å drive egen forskning illustrerer at det også foregår en akummulering av kunnskap i favør «Det Store Andre» (Zuboff, 2019b). Dataingeniøren Jeff Hammerbacher uttrykte sin bekymring for at «[…] de beste hodene av vår generasjon bruker sine evner til å få folk til å klikke på reklame» (egen oversettelse, Vance, 2011).
Google Chromebook og G Suite for Utdanning
«G Suite for utdanning» (GSFU), tidligere Google Apps for Education (GAFE) består av en rekke applikasjoner hvor elever og lærere sitt arbeid og kommunikasjon lagres i «skyen», altså på Google sine servere. Applikasjonene – som er gratis å bruke – består av Google Classroom, Google Disk, Google Dokumenter, Google Presentasjoner, Google Regneark, Gmail, Google Kalender, Google Skjemaer, Jamboard, Google Meet, med mer. Google Classroom er en gratis tjeneste som fungerer som et slags intranett mellom lærere og elever, hvor lærere og elever blant annet kan dele kunngjøringer, dele oppgaver, opprette innleveringer, holde videokonferanser, gi tilbakemeldinger, og kommunisere med hverandre direkte. Google Classroom fungerer som en alt-i-ett-løsning for alt det administrative og operasjonelle som inngår i en skolehverdag mellom lærer og elev. Direkte personsensitivt innhold deles ikke nødvendigvis her, men data som navn, innleveringer og lekser gjør (Lind & Nolin, 2016, s. 656). Ifølge Google (2020) benytter over 80 millioner studenter og lærere seg av GSFU globalt, mens over 40 millioner studenter og lærere verden over benytter seg i tillegg av Google Classroom.
GSFU brukes typisk i kombinasjon med Google Chromebook, en type digitalt utstyr som produseres av ulike produsenter, men som alle kjører Google sitt Linux-baserte operativsystem «Chrome OS» (Google, 2020). Chromebook-enheter er rapportert som billige for skolene, reliable og enkle i bruk (Jelstad, 2016; Lind & Nolin, 2016). Blant skolene som deltok i Monitor 2019 er Chromebook den foretrukne typen digitalt utstyr på 4. trinn med 41,3 % (Fjørtoft et al., 2019, s. 25). I Norge er det dokumentert økt bruk av Chromebook i norske skoler på barneskolenivå (Fjørtoft et al., 2019), noe som gjør at elever blir vant med å bruker Google sitt grensesnitt fra tidlig alder.
Lindh & Nolin
Maria Lindh og Jan Nolin ved Universitetet i Borås utførte en todelt studie på bruk av skybaserte datalagringstjenester i svensk skole (Lindh og Nolin, 2016). Den første delen besto av en retorisk analyse som konkluderte med at Google sin forretningsmodell er forseglet og tilstede i GSFU . Lindh & Nolin (2016, s. 644) skriver at Googles forretningsmodell basert på overvåkning gjør det problematisk å implementere GSFU til undervisningsformål, og argumenterer for at Google sine brukervilkår er intensjonelt skrevet for å forsegle selskapets forretningsmodell med ekstraksjon, analyse og salg av data (s. 646). De pekes blant annet på at det er uklarhet vedrørende begrepene «data og «informasjon». Mens Google opplyser at «elevers data», som kan være dokumenter og innleveringer elever jobber med, «blir trygt ivaretatt» (Google, 2020), hevder Lindh & Nolin (2016) at Google tilslører hva som menes med begrepene «data» og «informasjon». Metadata som Google henter inn ved barns bruk av digitalt utstyr medfører en kommodifisering av barns digitale adferd i skolesammenheng (s. 660). I og med at Google sitter på koden til teknologien, vil de også være i stand til å endre måten GSFU fungerer på i skolesammenheng uavhengig av det nasjonale lovverket elevene går på skole i (s. 660).
“Få studier vender et kritisk blikk på bruk av GSFU.”
Del to av studiet, som besto av kvalitative intervju med respondenter fra 30 ulike svenske skoler, konkluderer det med at de umiddelbare fordelene ved å benytte seg av GSFU veide tyngre enn momenter vedrørende overvåkning og elevers personvern. En respondent opplyser at de var «villige til å ta risikoen» og bestride det tvetydige lovverket da de fikk demonstrert hvor godt GSFU fungerte sammen med Google Chromebook (s. 655). Fordelene ved å bruke GSFU var umiddelbart synlige for brukerne, mens en skjult arkitektur med andre hensikter er utenfor brukernes viten (s. 644). Lindh & Nolin (2016) betegner dermed GSFU som et artefakt fra en «overvåkningsøkonomi» (s. 658), som har klare paralleller til Zuboff sin beskrivelse av overvåkningskapitalismens ekstraksjonsimperativ. Gjennom en retorikk som forsikrer elever, lærere og foreldre om at dataen er sikret og privat, skjuler Google sin virkelige intensjon om å overvåke adferd og danne «algoritmiske identiteter» på individuelle brukere (Lindh & Nolin, 2016, s. 658).
Mangelen på klarhet, åpenhet og gjennomsiktighet er kjernen i problematikken med kommersielle teknologiselskaper i skolen. Avtaler om personvern spesifiserer ofte ikke eksplisitt nok hva slags type data som hentes inn og analyseres, og hvorvidt selskaper bruker disse dataene fra utdanningsformål til for eksempel å kryssjekke linker til elevers private sosiale medier og vennenettverk (Steeves, Regan, & Shade, 2018, s. 453). Lind & Nolin (2016) påpeker også at det er utført få studier som vender et kritisk blikk på bruk av GSFU som et digitalt utstyr for overvåkning i utdanningssammenheng, og hevder samtidig at implementering av IKT-utstyr i skolesammenheng er styrt av en IT-industri som ikke spiller på lag med lærerprofesjonens pedagogiske behov for å sikre god opplæring (s. 660).
Uklare ansvarsforhold
Så hvordan kan sosiologisk teori om overvåkningskapitalisme bidra til å belyse bruk av GSFU og Chromebook i norske skoler? Først og fremst er bruk av Google i skolekontekst et bilde på Zuboff sine beskrivelser om «Det Store Andre» og dets altomspennende tilstedeværelse som strekker seg utover enhver dimensjon både av samfunn og individers liv. Det er viktig å presisere at Zuboff på slettes ingen måte er i anti-teknologi. Fremveksten av «Det Store Andre» er heller et utfall av feilslått markedslogikk. Politisk gjennomslag for nytt lovverk og rettmessig presedens vil kunne endre den asymmetriske måten overvåkningskapitalismen tillater en akkumulering av makt og kunnskap hos en knippe mektige selskaper. Følgene av dette vil være et marked med rettferdig konkurranse hvor selskaper strekker seg etter å dekke folks behov fremfor å benytte seg av menneskelig adferd som en utømmelig råvare for økonomisk profitt (Zuboff, 2015, s. 86; Zuboff, 2019a).
Må ikke bli et nødvendig onde
Når bruk av GSFU i norsk skole sees i lys av teori om overvåkningskapitalisme, er det relevant å påpeke at grunnskolen ikke bare er offentlig, men også obligatorisk. Det betyr at bruk av skybasert teknologi som GSFU gir utslag i særlig uklare ansvarsforhold og begrenset valgfrihet. At en økonomisk presset utdanningssektor benytter seg av digitale tjenester som bidrar til å oppfylle opplæringens krav og mål til en lav økonomisk pris er en side av saken, men måten skoler bruker GSFU på kan virke innskrenkende på barn og foreldres frihet til å ta informerte beslutninger om hva bruken av tjenestene innebærer.
Ettersom Google Chromebook er det foretrukne digitale utstyret blant de lavere trinnene i skolen (Fjørtoft et al, 2019), vil det bli interessant å følge med på hvordan markedsandelene utarter seg over tid i eksempelvis senere utgaver av Monitor-undersøkelsene. Det blir spesielt interessant på bakgrunn av argumenter som hevder at dersom barn blir eksponerte for digitale tjenester i tidlig alder, vil de med større sannsynlighet fortsette å være brukere av de samme tjenestene også etter endt skolegang (Lindh & Nordin, 2016).
Mangel på åpenhet svekker tillit
Google på sin side hevder at det er skolene selv som eier dataene sine, og at Google gjør det de kan for å beskytte elevers data. Lindh & Nordin (2016) og Zuboff (2019b) løfter frem digitale selskapers retoriske tvetydighet når det gjelder erklæringer som omhandler data, personvern og rettigheter. Et eksempel på uklar kommunikasjon er Googles kommentar vedrørende dataeierskap i en sak publisert i Klassekampen den 27. april: «Data om skrivefeil og måten brukerne taster på, […], brukes kun for å forbedre kjernetjenestene eleven bruker – som docs, sheets og slides» (Vollan & Amundsen, 2020, s. 25). Her er det uklarhet i hva denne «forbedringen» egentlig innebærer og til hvem det er til størst fordel til. Denne tvetydigheten og asymmetrien i kunnskapen er utfordrende for offentlige institusjoner, når Google vet veldig mye om sine brukere, mens brukerne vet veldig lite om hva Google vet om dem — og på hvilket grunnlag de vet. Selskapets ekstraksjon av data uten samtykke og skanning av utdanningsbrukeres e-post (Zuboff, 2015) er eksempler som svekker tilliten til et privat selskap som søker innpass i et offentlig organ.
Konklusjon
I lys av sosiologisk teori og forskningsbasert kunnskap om overvåkningskapitalisme fremstår bruken av GSFU i norsk skole som et tilfelle av overvåkningskapitalismens altomspennende makt. Kommersielle digitale selskapers voksende innflytelse, blant annet gjennom innpass i norsk utdanning, kan bidra til antidemokratiske konsekvenser hvor demokratiske politiske vedtak blir fattet på bakgrunn av private aktørers egeninteresser. Utviklingen i bruk av digitalt utstyr i norsk skole kan sågar se ut til å drive frem en antidemokratisk utvikling ved hjelp av offentlige midler, noe som er paradoksalt for en institusjon som har som formål å fremme demokratiske verdier i opplæringen av «aktive medborgere».
Det som skjer vedrørende digitalisering av skolen er et viktig bidrag i den helhetlige forståelsen av det digitale skiftet samfunnet opplever i dag. Økt bruk av digitalt utsyr i skolen og økte kompetansekrav til digitale ferdigheter er med på å gjensidig dokumenterer det digitale sin økte tilstedeværelse i våre liv. Til tross for at bruk av Google sine produkter og tjenester oppleves som positivt i undervisningsformål, er en mangel på informasjon en utfordring både for forståelse av bruk av GSFU og eventuelle løsninger. Som vi har sett er asymmetrisk informasjon et fellestrekk mellom overvåkningskapitalisme og bruk av enkelte typer digitalt utstyr i norsk skole. GSFU kan dermed operere som et skjult artefakt med overvåkningskapitalistisk arkitektur i et offentlig organ. Med mangel på debatt vil overvåkningskapital fortsette å tjene på vår ignoranse.
Referanser
Bergsjø, L. & Stenvik, B. (2020, 3. april). Ta styring på krisedigitaliseringen. Morgenbladet, s. 35.
Enjolras, B. (2014). Big Data og samfunnsforskning: Nye muligheter og etiske utfordringer. Tidsskrift for samfunnsforskning, 55(1), 80-89.
Fjørtoft, S. O., Thun, S., & Buvik, M. P. (2019). Monitor 2019-En deskriptiv kartlegging av digital tilstand i norske skoler og barnehager (SINTEF Digital for Utdanningsdirektoratet). Hentet fra http://hdl.handle.net/11250/2626335
Flatekvål, K. (2020, 23. april). Nå får skoleelevene Chromebook av kommunen. Bergensavisen. Hentet fra https://www.ba.no/
Forbrukerrådet. (2020). Out of control. How consumers are exploited by the online advertising industry. Hentet fra https://www.forbrukerradet.no/undersokelse/no-undersokelsekategori/report-out-of-control/
Google (2020, 15. mai). G Suite for Education. Hentet fra: https://edu.google.com/intl/no/products/gsuite-for-education/?modal_active=none
Greenfield, A. (2017). Radical Technologies: The Design of Everyday Life. Verso Books.
Jansen, K. (2020, 23. februar). Foreldre frykter at Google lager profiler på skolebarna deres. Bergens Tidende, s. 6-7.
Jelstad, J. (2016). Sikkerhet i skyene. Utdanning, 6, s. 12-19.
Lindh, M., & Nolin, J. (2016). Information We Collect: Surveillance and Privacy in the Implementation of Google Apps for Education. European Educational Research Journal, 15(6), 644-663. doi:10.1177/1474904116654917
Morozov, E. (2017). Tannløs Google-tilnærming. Morgenbladet. Hentet fra http://www.morgenbladet.no/
Singer, N. (2017a). How Google took over the classroom. The New York Times. Hentet fra http://www.nytimes.com/
Steeves, V., Regan, P., & Shade, L. R. (2018). Digital surveillance in the networked classroom. I The Palgrave international handbook of school discipline, surveillance, and social control (s. 445-466). Palgrave Macmillan, Cham.
Utdanningsdirektoratet. (2019b, 5. april). Iktsenteret.no er lagt ned. Hentet fra https://www.udir.no/om-udir/iktsenteret.no-er-lagt-ned/
Vance, A. (2011). This tech bubble is different. Bloomberg. Hentet fra http://www.bloomberg.com/
Vollan, M. B., & Amundsen, P. S. (2020, 27. april). Hun tar kampen mot Goliat. Klassekampen, s. 24-25.
Zuboff, S. (2015). Big other: Surveillance Capitalism and the Prospects of an Information Civilization. Journal of Information Technology, 30(1), 75-89. doi:10.1057/jit.2015.5
Zuboff, S. (2019a). Surveillance capitalism and the challenge of collective action. New labor forum, 28(1), 10-29). Sage CA: Los Angeles, CA: SAGE Publications.
Zuboff, S. (2019b). The Age of Surveillance Capitalism: The Fight For a Human Future at The New Frontier of Power. Profile Books.