Nieuw lid raad van toezicht Ot van Daalen: “Technologie begint belangrijker te worden dan recht in hoe wij ons bewegen door de wereld”

Met advocaat, (ex)activist en academicus Ot van Daalen heeft de raad van toezicht van SDM voor het eerst een privacy expert in haar midden. Ot ondersteunt vanuit zijn advocatenkantoor Root Legal bedrijven, organisaties en burgers bij complexe juridische uitdagingen rond privacy en security. Daarnaast is hij docent bij het Instituut voor Informatierecht. Eerder was hij directeur van Bits of Freedom (BOF), werkzaam bij de Autoriteit Persoonsgegevens en advocaat bij de Brauw Blackstone Westbroek. In dit kennismakingsinterview spreken we hem onder meer over de invloed van de ontwikkelingen op zijn vakgebied op de democratische rechtsstaat en wat hij hoopt SDM de komende jaren vanuit zijn kennis en ervaring mee te kunnen geven.

Jouw werkgebied staat steeds meer in de aandacht: van discussies over de privacy-implicaties van de opslag van meta-data tot discriminatie door de mogelijkheden van AI. Wat zijn volgens jou de belangrijkste uitdagingen als het gaat over de democratische rechtsstaat?
“Wat mij steeds meer duidelijk wordt is dat het belangrijk is uit te zoomen, en te kijken naar de effecten van technologie op onze maatschappij en hoe wij er afhankelijk van worden. Naarmate technologie digitaal wordt zijn heel veel dingen die we normaal ‘for granted’ nemen dat niet meer. Vroeger repareerde je bijvoorbeeld je eigen fiets, en nu weet je als de fabrikant failliet gaat niet of je hem nog kunt gebruiken. Die nieuwe beperkingen die worden ingebakken in onze apparaten, en digitale infrastructuur in het algemeen, nemen soms de rol over van wetten. Maar waar wetten tot stand komen in een democratisch proces, geldt dat over het algemeen niet voor deze regels.

Dat heeft weer allerlei implicaties voor de rechtsstaat. Wat betekent het als de regels niet democratisch tot stand komen maar door tech-bedrijven worden bepaald? Hoe moet je daar als wetgever op reageren? Die worstelt daar zichtbaar mee en is zich nog niet voldoende bewust dat die nieuwe regels een nieuw soort wetgeving vereisen. Daarnaast zie je ook dat de rechter er moeite mee heeft. Er zijn bijvoorbeeld een aantal rechtszaken geweest over of je internetproviders kan verplichten verkeer met auteursrechtelijk beschermde content te beperken. De rechter onderzoekt dan eigenlijk of de technische maatregelen die een provider neemt voldoende zijn om een goede balans te vinden tussen vrijheid van meningsuiting en privacy. Maar dat wordt al snel een platgeslagen discussie die meer gaat over vragen als: hoeveel illegale content wordt hiermee onderschept en hoeveel rechtmatige content wordt hiermee doorgelaten. Dat gaat nauwelijks nog over fundamentele rechten. Het gaat om afwegingen die nieuw zijn voor een rechter, waar weinig kaders voor bestaan.”

Je ziet vanuit je functies alle kanten van dit soort kwesties natuurlijk. Zie je jezelf meer als tech-optimist of tech-pessimist?
“Ik beweeg een beetje tussen beide in. Toen ik bij BOF werkte was ik meer een pessimist, gedreven door de angst voor wat er mis kan gaan. Maar ik denk dat je de ogen niet moet sluiten voor de enorme kansen die technologie ons in sommige gevallen ook biedt, en dat het maatschappelijk onverstandig is dat te doen. Denk bijvoorbeeld aan kunstmatige intelligentie, zoals ChatGPT. Een heel bijzondere technologie. De risico’s van het gebruik moet je wel onderkennen, maar alleen zeggen dat het niet werkt of de privacy aantast werkt niet. Je vervreemt mensen die het gebruiken van je en doet geen recht aan wat die technologie echt is. Ik vind het wel zorgwekkend dat zoveel van de technologie die we gebruiken wordt gemaakt door bedrijven die vooral hun eigen belang, niet het publiek belang, centraal stellen. En vaak zij het Amerikaanse bedrijven. ChatGPT draait op servers van Open AI, waardoor Amerikaanse bedrijven al onze vragen analyseren en er dingen mee kunnen doen. Het is voorstelbaar dat zoiets ontwikkeld wordt door Europese bedrijven, in Europa zou draaien, of op je eigen computer of telefoon. Die positieve visie mis ik vaak in het debat.”

AI heeft ook een enorme impact op de journalistiek. Er worden uiteenlopende voorspellingen gedaan over het effect ervan op de sector: van doemscenario’s tot bruikbare toepassingen. Waar sta jij in dit debat?
“Ik denk dat de impact van grote datamodellen zoals ChatGPT enorme impact kunnen hebben op het schrijvende beroep. Maar de ontwikkelingen gaan zo snel dat ik geen voorspellingen durf te doen. Ik kan wel zeggen dat ik het jammer zou vinden als door juridische en privacy zorgen, die terecht kunnen zijn, bedrijven niet gaan experimenteren met deze technologie. Dat is wat ik cliënten adviseer en zelf ook doe: je moet het proberen en dan kan je beter inschatten wat het nu inhoudt en in de toekomst zou kunnen gaan betekenen. En je moet de resultaten in een feedbackloop gebruiken, zodat je er als organisatie van leert. Ik probeer dat zelf ook. Omdat ik weet dat veel essays van studenten tegenwoordig door ChatGPT worden geschreven heb ik mijn studenten afgelopen jaar de keuze gegeven: zelf schrijven of met behulp van ChatGPT, maar dan wel met een analyse erbij of het klopt.” 

Niet heel lang geleden was er nog maar weinig aandacht voor de digitale kant van burgerrechten. Inmiddels heeft het onderwerp een vlucht genomen, is het misschien wel volwassen geworden. Het gaat niet enkel meer over privacy, maar bijvoorbeeld ook het dekolonaliseren van digitale rechten. Jij was er vroeg bij. Wat kan je zeggen over de ontwikkeling en waar we nu staan?
“In 2009 heb ik BOF heropgericht. Dat heb ik gedaan op een op een hackerskamp: een unieke verzameling van mensen met een speciale passie voor technologie en deze op een andere manier gebruiken dan waar het voor bedoeld is, die dagenlang in tentjes samen aan laptops zitten te rammelen. Dat is waar de ‘roots’ van digitale burgerrechten liggen. Tegelijkertijd is dat een beeld dat heel typisch is qua politieke waarde: een heel witte, vrij mannelijke, libertair ingestelde wereld. Vrijheid betekent daarin vooral: een kleine overheid.

Mede omdat alles digitaal werd en dat de hele maatschappij raakte, is het duidelijk geworden geworden dat digitale rechten voor iedereen belangrijk zijn. Een punt dat nu eindelijk meer aandacht krijgt, is discriminatie van zwarte mensen door technologie. De digitale burgerrechtenbeweging is dus langzaam een veel breder spectrum aan belangen aan het incorporeren en vertegenwoordigen. Dat leidt ook tot spanningen. Is het een puur technologie-gedreven beweging, of gaat het meer over de belangen die worden beschermd of ingeperkt door technologie? Dat laatste is een productievere manier van ernaar kijken, maar betekent ook met veel meer mensen rekening houden. Dat vind ik wel heel gezond. Het betekent soms ook dat je wat ‘soulsearching’ hebt over wat jouw rol dan nog is. Je zit niet alleen meer in het veld van de Amnesty’s van deze wereld, maar ook van de mensen die zich met racisme bezighouden bijvoorbeeld.”

Uit jouw cv komt het beeld naar voren van een zeer gedreven persoon die zijn idealen op veelzijdige wijze najaagt. Hoe zou je die idealen omschrijven?
“Het lijkt misschien veel wat ik doe, maar het zijn allemaal dezelfde dingen, met verschillende perspectieven. Ik denk dat wat ik bij het ene leer heel nuttig is voor het andere, bijvoorbeeld dat ik als docent kan spreken vanuit mijn ervaring in de advocatuur. En ik wil zeker niet de indruk wekken alsof het allemaal door idealen gedreven wordt, ik moet natuurlijk ook gewoon werken voor de kost. Dat gezegd hebbende, ben ik blij als ik mezelf de vraag kan stellen: heeft dit impact op de vrijheid van mensen en kunnen we dat misschien anders doen? Dat is ook waar ik het in de advocatuur naar probeer terug te brengen. De neiging is om als jurist de tekst van de wet te pakken en die in een beperkte lezing toe te passen. En zo te vergeten waar het eigenlijk om gaat: vrijheid.”

Hoe zie jij de rol van SDM op dit gebied en wat zou jij daar vanuit jouw kennis en ervaring aan bij willen dragen?
“SDM heeft een unieke positie in het landschap van fondsen, omdat ze zich wel aan de eigen missie maar niet aan een geldschieter hoeft te verantwoorden. En het is een interessante opgave de vrijheid die dat geeft zo goed mogelijk te gebruiken. Ik ben blij dat er binnen het team en de raad van toezicht aandacht en zelfreflectie is voor de vraag hoe je dit op de beste manier kan doen. Als lid van de raad van toezicht is je rol natuurlijk beperkt, maar een algemene lijn is dat technologie belangrijker dan recht begint te worden, of misschien wel is, in hoe wij ons bewegen door de wereld. En dat is iets dat ik onder de aandacht zal blijven brengen.”