- De AI-assistent helpt ambtenaren met schrijven, samenvatten en analyseren.
- Gegevens blijven binnen de gemeente en worden niet extern gedeeld of gebruikt.
- De gemeente wil met ChatAmsterdam minder afhankelijk zijn van big tech.
Ambtenaren van de gemeente Amsterdam kunnen vanaf nu gebruikmaken van ChatAmsterdam: een zelfontwikkelde AI-assistent die helpt bij het schrijven van teksten, het samenvatten van informatie en het analyseren van complexe documenten.
De tool draait op GPT-4, maar is zo ingericht dat ook toekomstige Europese taalmodellen kunnen worden aangesloten. Data blijven binnen de gemeentelijke omgeving en worden niet ingezet voor training van het onderliggende AI-model zo bericht BinnenlandsBestuur.
Publieke waarden
Dat achterliggende taalmodel is GPT4.0 van Open AI, het taalmodel dat ook in ChatGPT wordt gebruikt, maar ChatAmsterdam is zo opgezet dat ook (toekomstige) Europese taalmodellen kunnen worden aangesloten. De gemeente probeert de afhankelijkheid van grote bedrijven te verminderen.
Volgens wethouder Alexander Scholtes (ICT en Digitale Stad) bewijst ChatAmsterdam dat digitale vooruitgang en publieke waarden hand in hand kunnen gaan. ‘Door zelf AI-toepassingen te ontwikkelen en te beheren, houden we controle over onze data. Zo bouwen we aan een toekomstbestendig en digitaal sterk Amsterdam.’
Met één klik complexe HR-vragen beantwoorden, efficiënter omspringen met arbeidsrechtelijke kwesties, makkelijk kandidaten screenen én effectiever talent managen. Volg deze masterclass en leer hoe AI en ChatGPT jouw dagelijkse werkzaamheden kunnen transformeren in alle belangrijke HR-domeinen.
Aangescherpt beleid
In februari 2025 scherpte de gemeente Amsterdam het beleid aan rondom het gebruik van generatieve AI. Ambtenaren werd verzocht om applicaties zoals ChatGPT, Midjourney en Copilot niet te gebruiken. ChatAmsterdam moet een veilig alternatief vormen, waarbij eigenaarschap van de data en bescherming van gevoelige gegevens en privacy goed zijn geregeld. De AI-toepassing is opgenomen in het algoritmeregister.
Aan de introductie van de AI-toepassing ging een grote pilot vooraf, die liep van 1 november 2024 tot 1 mei 2025. 800 Amsterdamse ambtenaren namen eraan deel. In die periode zijn meer dan 34.000 prompts en 10.000 chats verzameld en zijn meerdere enquêtes afgenomen, meldt de gemeente. De ambtenaren verwachten vooral tijdwinst te behalen door het gebruik van de digitale assistent.
Risico’s
Op basis van ervaringen en risico-analyses zijn maatregelen genomen. Zo bleek uit een eerste onderzoek onder 150 ambtenaren dat ongeveer 7 procent van de prompts was te classificeren als risicovol, omdat ze persoonsgegevens bevatten of omdat er uitspraken over besluitvorming werden gedaan.
De huidige versie van ChatAmsterdam bevat een filter met twee lagen: de prompt-filter van Microsoft filtert alle prompts op gevaarlijke en onethische zaken, zoals discriminatie, zelfmoord of misbruik/ Daarnaast ontwikkelde de gemeente zelf een tweede filter, dat specifiek zoekt naar risicovolle inhoud zoals het gebruik van gevoelige data, etnische profilering et cetera.
Kennis delen
Onlangs paste de rijksoverheid het AI-beleid aan: ambtenaren worden aangemoedigd om met AI te werken en daarbij gebruik te maken van in Europa ontwikkelde toepassingen en opensource oplossingen.
Amsterdam vindt dat de digitale assistent daar goed op aansluit en wil de kennis over ChatAmsterdam overdragen aan andere gemeenten en overheidsorganisaties, om zo bij te dragen aan een bredere beweging naar digitale autonomie binnen de publieke sector. De gemeente onderzoekt momenteel hoe ze dat precies kunnen vormgeven.
