Na 35 jaar werken aan digitalisering in de publieke sector geniet ik tijdelijk van een sabbatical. Het grootste deel van mijn loopbaan (tot nu) werkte ik binnen de overheid aan digitalisering. Een volgens sommigen slechte combinatie. Van verschillende kanten komt daarom ook de roep om een Minister voor digitalisering. Met reden, wat mij betreft. Maar er zijn veel meer verbetermogelijkheden. Dit is de zevende blog in een reeks die daarover gaat. Dit keer niet over de overheid zelf, maar over waardengedreven verdienvermogen.
Hardware uit China, software uit de VS en regels uit de EU?
Regels voor artificiële intelligentie: EP keurt baanbrekende wet goed was afgelopen week de kop van een persbericht van het Europees Parlement. De AI-verordening, de allereerste uitgebreide AI-wet ter wereld, bevat regels voor het gebruik van kunstmatige intelligentie in de EU. Zoals auto's veilig moeten zijn voor ze de weg op gaan en medicijnen voordat ze toegediend worden komen er ook eisen aan AI. Maar voor al deze terreinen geldt: de productie is langzamerhand uit de EU aan het verdwijnen en daarmee de kennis en de werkgelegenheid. "Brussel wil medicijnproductie wel terug naar EU, maar weet nog niet hoe" kopte de NOS in 2020:
Het is volgens de Europese Commissie de belangrijkste les uit de covid-pandemie: de EU moet onafhankelijker worden als het op de eigen medicijnproductie aankomt. De afgelopen decennia trok de productie van goedkope, maar belangrijke medicijnen bijna volledig naar Azië, met name naar China en India. En daardoor kan Europa snel in de problemen komen.
Een zelfde afhankelijkheid is er ook van digitale producten en diensten van buiten de EU schreef ik eerder al in de vierde blog in deze reeks. Waar de hardware vooral uit China komt en de software vooral uit de VS, worden wij geprezen omdat wij Big Tech beteugelen.
Terecht stellen we regels om publieke waarden te beschermen. Maar niet voor niets benoemde ik in de vierde blog het belang van meer digitale autonomie en meer eigen diensten. Niet alleen om de afhankelijkheden te beperken. Het zorgt ook dat de kennis behouden blijft, innovatie door blijft gaan en verdienvermogen van Nederland (en de EU) overeind blijft. Welke risico's je anders loopt, schreef ik in de derde blog in deze reeks, leert het verhaal over het broodrooster van Bert Hubert:
‘Veel Europese bedrijven zijn alles wat hen ooit uniek maakte gaan inkopen’, vertelt hij. ‘Dan komt er een punt dat je als bedrijf slechts een voorportaal van je leveranciers bent geworden. Op een gegeven moment vraag je je dan af: wat doen we nog wel hier? Want de kern van je bedrijf is niet langer iets maken, maar iets verkopen. Als broodroosterfabrikant beheer je het logo en het merk, misschien schrijf je de gebruiksaanwijzing nog zelf – hoewel je dat tegenwoordig ook prima kunt uitbesteden. Wellicht organiseer je nog de logistiek van de verkoop, maar in principe ben je een broodroosterfabrikant die helemaal niets meer zelf doet dat te maken heeft met het roosteren van brood. (...) Maar omdat je geen broodroosters maakt, weet je ook niet precies hoe ze werken. Je verliest de beste broodroosterwizards als personeel, want hen boeit het werk bij jou niet meer. ‘Je komt op een punt dat je niemand meer in dienst neemt die iets kan, waardoor je als bedrijf niets praktisch meer zelf kunt.’ Weg expertise, weg innovatie.
Kansen genoeg
Gelukkig zijn er ook kansen. Zo werd recent bekend dat Nederland ASML wil behouden en identificeert de Nationale Technologiestrategie sleuteltechnologieën waar het Nederlandse kennisveld en het Nederlandse bedrijfsleven een positieve impact mee kan maken en waar een unieke Nederlandse positie op mogelijk is. Zoals kunstmatige intelligentie en quantumtechnologie waarover TNO schrijft:.
Quantumtechnologie is veelbelovend voor de samenleving, industrie en wetenschap. Nederland is wereldwijd koploper in de inzet van quantumtechnologie. Ook is het bestempeld als sleuteltechnologie door Nederland en andere Europese overheden. Nederland wil zijn positie als voortrekker en pionier in de kennis en ontwikkeling van quantumtechnologie behouden en versterken. Daarom is de Nationale Agenda Quantumtechnologie (NAQT) opgesteld, in opdracht van Economische Zaken en Klimaat en de topsectoren High Tech Systemen en Materialen en ICT.
Veel van ontwikkelingen als deze vergen een grote schaal die slechts enkele bedrijven en enkele landen hebben. Niet voor niets zegt Reijer Passchier, hoogleraar digitalisering en de democratische rechtsstaat verbonden aan de Open Universiteit:
"De technologiemarkt wordt van oudsher gedomineerd door grote bedrijven die het rechtstelsel weten te gebruiken om nog machtiger te worden. In bijvoorbeeld de auto-industrie heeft dat ertoe geleid dat een handvol bedrijven decennialang de dienst uitmaakte. Digitalisering maakt het risico op dergelijke marktdominantie nog eens vele malen groter en dat baart me zorgen. Juist in de digitale wereld geldt dat degene met de meeste informatie de beste uitgangspositie heeft. Dit the rich gets richer-principe leidt tot the winner takes all en het ontstaan van omvangrijke monopolies."
Voorbeeld: AI
Dat geldt zeker ook voor de ontwikkelingen op het gebied van AI. Wie gaat de AI-race domineren? Techbedrijven staan op scherp kopte de NOS en noemde daarbij vooral Amerikaanse big tech bedrijven. Het Rathenau instituut vergeleek het onderzoek naar AI in de EU, de VS en China en constateerde:
Waar grote bedrijven op het gebied van AI, zoals Google en Alibaba, veelal buiten Europa zijn gevestigd, is het AI-onderzoek juist een van de krachten van Europa en Nederland. (…) We vergelijken de onderzoeksinzet en -output van Nederland met die van de tien landen met de meeste AI-publicaties en met de Europese en wereldwijde gemiddeldes. Hieruit blijkt dat AI-onderzoek in Nederland internationaal gezien een relatief klein deel uitmaakt van het totale wetenschappelijk onderzoek. In de EU-27 is het aandeel van AI in het totale onderzoek vergelijkbaar met dat in de Verenigde Staten, maar de EU verliest terrein ten opzichte van zowel de VS, als van China.
Het is niet gemakkelijk voor Europese bedrijven om mee te komen in deze wedrace. Recent voelde een groep Europarlementariërs die de EU AI Act mede heeft vormgegeven, zich beduveld door het Franse ai-bedrijf Mistral. De (toen nog open source) startup uit Parijs gaat nauw samenwerken met Microsoft. En dat terwijl Mistral zich steeds heeft geprofileerd als Europees antwoord op Big Tech.
Investeren in AI
Ook Nederland wil investeren in eigen AI-kennis en bedrijvigheid. Zo heeft het Nationaal Groeifonds aan het AiNed programma een budget van 204,5 miljoen euro toegekend, noemt de Nationale Technologiestrategie AI als sleuteltechnologie en wordt gewerkt aan een eigen Nederlands taalmodel. In de Nederlandse AI-Coalitie wordt samengewerkt door overheid, bedrijfsleven, onderwijs- en onderzoeksinstellingen en maatschappelijke organisaties aan maatschappelijk verantwoorde AI-toepassingen. In zogenoemde ELSA-labs wordt daarbij onderzoek gedaan naar de ethische, juridische en sociale aspecten van AI. Bij al deze ontwikkelingen staat mensgerichte AI voorop. Want publieke waarden staan onder druk, bijvoorbeeld bij generatieve AI schrijft het kabinet in de overheidsbrede visie op generatieve AI:
Het gebruik van generatieve AI kan negatief van invloed zijn op publieke waarden zoals non-discriminatie, privacy en transparantie. Als het leidt tot aantasting van ons informatie-ecosysteem is het daarmee van invloed op de democratie en onze rechtsstaat. (…) Een niet te onderschatten uitdaging bij generatieve AI vormt de eventuele vooringenomenheid en selectiviteit die als gevolg van de gebruikte trainingsdata en modelparameters in de systemen verankerd kan zijn. Dat zet gelijke behandeling en non-discriminatie onder druk. Ook groeit het risico op desinformatie doordat generatieve AI het creëren en verspreiden ervan vergemakkelijkt. Een voorbeeld hiervan is het eenvoudig kunnen produceren van deepfakes. Ook bestaan er zorgen over mogelijke schendingen van rechten op het gebied van privacy, gegevensbescherming en auteursrechten.
Toch geldt ook hier: Nederland is te klein voor heel veel verschillende alternatieven. Schaal is nodig en kennis is schaars. Daarbij moet je, om te borgen dat de kennis, zorgen dat niet alsnog de ontstane kennis en bedrijvigheid Nederland verlaten.
En dus?
Als bedrijven hun helpdesk willen ondersteunen met een chatbot zou het fijn zijn als ze kunnen aantonen aan publieke waarden te voldoen. Als zorginstellingen generatieve AI willen gebruiken om gesprekken samen te vatten zodat er minder administratieve last is voor zorgprofessionals, zou het goed zijn als de gevoelige data dichtbij bleef en de verwerking aantoonbaar aan alle eisen voldoet. Als we in alle landstalen, dus ook Papiements en Fries, chatbots willen maken dan zullen we vooral zelf ook aan de slag moeten.
Recent deed de Europese Commissie een voorstel voor een verordening voor start-ups om Europees leiderschap op het gebied van betrouwbare artificiële intelligentie te stimuleren. Het kabinet schrijft daarover aan de Tweede Kamer:
Het kabinet is positief over het voorstel en staat inhoudelijk achter de noodzaak voor de toevoeging van de voorgestelde nieuwe pijler rondom AI, die door het bieden van beschikbare en toegankelijke HPC-infrastructuur aan gebruikers (industrie en wetenschap) een bijdrage kan leveren aan de Europese concurrentiepositie op het gebied van AI. Het voorstel om “AI-factories’’ op te richten is een belangrijke invulling van de noodzaak om als Europa gezamenlijk op te trekken in de mondiale concurrentiestrijd rondom AI. Verbeterde toegang tot AI-rekenkracht brengt met zich mee dat gebruikers, start-ups in het bijzonder, aangemoedigd worden hun activiteiten en dataverwerving, opslag en gebruik in Europa te ontplooien. Gebruikers worden eveneens minder afhankelijk van opslag en rekencapaciteit van buiten Europa.
Mijn voorstel: laten we komen tot één Nederlandse AI-faciliteit en daar dit soort mogelijkheden voor benutten. Een Ethical AI Valley. Het kost wat, een paar honderd miljoen zeker, maar daar krijg je ook veel voor terug in termen van behoud van kennis, wetenschap en verdienvermogen. En ook een faciliteit met rekenkracht, modellen en experts waarin overheden, wetenschap en bedrijfsleven, nonconcurrentieel, samenwerken. Als basis voor verdienvermogen (met mooie toepassingen in de zorg en het bedrijfsleven bijvoorbeeld) en voor onderzoek. Waarin open gewerkt wordt waar het kan en waardoor we kennis in Nederland (en andere landen die willen meedoen) opbouwen en behouden. Kennis bij de overheid, in de wetenschap en in het bedrijfsleven. Een mooie combinatie met mijn eerdere oproepen in deze reeks blogs om te werken aan voldoende eigen experts die gebruik kunnen maken van eigen faciliteiten. In samenwerking tussen overheid, wetenschap en bedrijfsleven. En laten we dat niet alleen voor AI doen, maar voor alle digitale technologieën waar dat zinvol is en kan.
Laten we dat, tot slot, niet alleen doen en samenwerken in de EU en ook niet alleen voor AI. De Nationale Technologiestrategie is een mooi startpunt.