Artikler og analyser

AI og arbejdsliv · Analyse

Du tænker højt med arbejdspladsens AI. Hvem kan læse med?

Da det amerikanske universitet Dartmouth College undersøgte en leders AI-brug, indgik hans Claude-samtaler i materialet. Sagen viser, hvordan hjælpen undervejs kan blive dokumentation for arbejdets tilblivelse. Det rejser et spørgsmål om grænsen mellem fortrolighed og kontrol.

David & Redaktionen ·

Baker Memorial Library på Dartmouth College set fra plænen med træer i forgrunden
Baker Memorial Library på Dartmouth College i Hanover, USA. Arkivfoto fra 2007. Foto: Kane5187 / Wikimedia Commons · Public domain.

Santiago Schnell havde brugt Claude til at bearbejde et forskningsmanuskript, rette kode og fremstille figurer. Senere gennemgik et udvalg ved Dartmouth College hans samtaler med AI'en.

I logfilerne fra hans Claude-konto på Dartmouth kunne udvalget følge dele af arbejdet bag publikationerne. Det sammenholdt samtalerne med artikler og anden kommunikation og fandt brud på udgiveres regler om AI-brug eller oplysning om den i mindst to tilfælde. Ved en tredje artikel kunne udvalget ikke fastslå et brud, fremgår det af rapporten fra 27. oktober.

Dagen efter meddelte Dartmouth, at Schnell havde valgt at træde tilbage som universitetets øverste akademiske leder og forlade institutionen.

Undersøgelsen fulgte efter medieomtale af hans AI-brug. Schnell har ifølge Inside Higher Ed fastholdt, at hjælpen ikke erstattede hans forskning, faglige dømmekraft eller forfatterskab. Udvalgets gennemgang var rådgivende. Det gennemførte ikke en formel disciplinærsag og anbefalede ingen disciplinær sanktion.

Forløbet viser, at AI-samtaler kan bidrage til at efterprøve, hvordan et arbejde er blevet til. Rapporten forklarer ikke, hvordan udvalget teknisk fik adgang til logfilerne, og sagen dokumenterer ikke løbende overvågning af universitetets ansatte.

Spørgsmålet rækker ud over Dartmouth. En AI-chat kan være stedet, hvor medarbejderen prøver en idé, får forklaret noget svært eller beder om hjælp til en fejl. Samtalen kan rumme alle de forsøg, der ligger før det færdige resultat. Hvis organisationen senere gennemgår den, får arbejdsprocessen et nyt publikum.

Selv inkognito kan indgå i arbejdspladsens udtræk

Hvor fortrolig en samtale er, afhænger også af, hvem den skal være fortrolig over for.

Hos Anthropic holdes inkognitochat ude af brugerens historik og AI'ens hukommelse. På Claude Team og Enterprise indgår de alligevel i organisationens dataeksport. På Enterprise er de også omfattet af en særlig kontroladgang, Compliance API. Det fremgår direkte af leverandørens vejledning.

Det, der er udeladt af medarbejderens chatoversigt, kan altså stadig være tilgængeligt for organisationen. Inkognito og fortrolighed over for arbejdspladsen er forskellige ting.

Kontrollen kan desuden begynde før en konkret mistanke. Microsofts Purview Communication Compliance kan løbende analysere prompts og svar fra blandt andet Microsoft 365 Copilot efter organisationens regler. Systemet kan finde eksempelvis deling af fortrolige oplysninger eller truende sprog. Teksten i den besked, der matcher en kontrolregel, vises i fuld længde i gennemgangsvisningen. Adgangen kræver både en relevant rolle og udpegning som kontrollant for den pågældende kontrolregel.

Det kræver rettigheder, opsætning og relevante licenser. En chef får altså ikke automatisk adgang til alle samtaler. Microsoft beskriver også værn som pseudonymiserede brugernavne, adgangsbegrænsninger og revisionslogge. Dokumentationen viser mulighederne. Den fortæller ikke, hvor udbredt kontrollen er på danske arbejdspladser.

Danmark har allerede taget hul på spørgsmålet

Herhjemme har arbejdsmarkedets parter fået øje på, at nye arbejdsredskaber også kan blive kontrolredskaber.

I OK26-forliget mellem KL og Forhandlingsfællesskabet, punkt 17, skriver parterne, at AI og algoritmeledelse kan give nye og måske utilsigtede muligheder for overvågning. De vil drøfte betydningen for den kommunale aftale om kontrolforanstaltninger og frem mod OK29 overveje behovet for vejledning eller anden information.

Parterne har dermed sat forholdet mellem hjælp og kontrol på dagsordenen. Forliget er en aftale om dialog og dokumenterer ikke, at kommuner læser medarbejderes AI-chat.

Kontrollen er allerede omfattet af regler. Ifølge Datatilsynets vejledning om medarbejderkontrol kræver behandling af medarbejderoplysninger et gyldigt grundlag, saglighed og proportionalitet. Medarbejderne skal som udgangspunkt have klar information senest, når kontrollen iværksættes. Der kan være undtagelser, hvis underretning sandsynligvis vil gøre formålet umuligt eller alvorligt hindre kontrollen.

Vejledningen behandler også brug af allerede indsamlede oplysninger til et nyt kontrolformål. Her skal arbejdsgiveren vurdere den nye anvendelse og oplysningspligten. Teknisk adgang afgør altså ikke, om oplysningerne må bruges til kontrol.

Privat indhold kræver særlig opmærksomhed. I en afgørelse fra oktober 2024 gav Datatilsynet en virksomhed alvorlig kritik for at gennemgå og hente mails fra en tidligere medarbejders private konto. Virksomheden havde fundet adgangen på arbejdscomputeren og ønskede beviser til en tvist. Dens interesse gav efter tilsynets vurdering ikke et tilstrækkeligt grundlag for behandlingen.

Afgørelsen handler om en privat mailkonto, ikke om organisationens AI-konto. Den understreger behovet for at skelne mellem privat konto, personligt indhold på en arbejdskonto og rent faglige spørgsmål til et arbejdsredskab.

Hvad fortæller en ufærdig samtale om medarbejderen?

Arbejdspladsen kan have gode grunde til at beskytte fortrolige oplysninger, efterprøve et arbejdes tilblivelse eller undersøge en konkret mistanke. AI-samtaler kan bidrage med relevant dokumentation, som Dartmouth-forløbet viser.

En meta-analyse af elektronisk præstationsmonitorering med 94 uafhængige stikprøver og 23.461 deltagere fandt ingen evidens for bedre medarbejderpræstation. Monitorering var forbundet med højere stress, mens mere åben og mindre indgribende kontrol var forbundet med mere positive holdninger hos medarbejderne.

Analysen handler om elektronisk monitorering bredt. Den fastslår hverken effekten af at kontrollere nutidige AI-samtaler eller, at monitorering i sig selv forårsager stress.

Når en AI-chat gennemgås, kræver indholdet samtidig fortolkning. Et forkert forslag kan komme fra modellen. Et spørgsmål kan være et forsøg på at lære. Og en formulering, der bliver forkastet, siger noget andet end den tekst, medarbejderen vælger at aflevere.

Efter AI Times' vurdering bør en arbejdsplads derfor forklare adgangen til samtalerne lige så tydeligt som reglerne for at bruge AI: Hvem kan læse indholdet, til hvilke formål, og hvem godkender en gennemgang?

Dartmouth viser, hvad en AI-samtale kan fortælle om et stykke arbejde. Medarbejderen bør derfor kunne forstå, hvornår den hjælp, der bruges undervejs, også kan blive materiale i en vurdering af arbejdet.

Artiklen bygger på offentlige dokumenter, forskning og leverandørvejledninger. AI Times har ikke undersøgt omfanget af danske arbejdspladsers kontrol af medarbejdernes AI-samtaler.

Kilder

AI Times