Hoe werkt Spotler aan AI‑geletterdheid?

Op 21 mei 2024 gaf de Europese Raad goedkeuring aan de EU AI Act. Met deze verordening wil de EU vooral het vertrouwen in het gebruik van AI-systemen vergroten. Dit houdt onder andere in dat organisaties die AI-systemen inzetten, na moeten denken over AI-geletterdheid. Wat dat inhoudt en hoe Spotler werk maakt van AI-geletterdheid, lees je hieronder. 

AI-geletterdheid volgens de EU AI Act 

Volgens definitieregel 56 uit de EU AI Act betekent AI-geletterdheid het volgende: ‘vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken.’ 

Wat je moet onthouden van deze lange zin zijn de termen ‘geïnformeerd zijn’ en ‘bewust zijn’ van kansen en risico’s van AI-systemen. De EU AI Act geeft – in de huidige vorm – geen definitief antwoord op de vraag wanneer je je als bedrijf AI-geletterd mag noemen. Begin 2025 bestaat hiervoor nog geen beoordelingskader. 

Dat een formele toetsing ontbreekt, wil niet zeggen dat de EU AI Act geen handvatten biedt voor de interpretatie van AI-geletterdheid. Bij de termen ‘geïnformeerd zijn’ en ‘bewust zijn’ is het goed als je begrijpt dat organisaties die AI-systemen inzetten, rekening moeten houden met het volgende:

• Er is altijd sprake van voldoende kennis, vaardigheden en begrip (awareness) van de ingezette AI-systemen, inclusief mogelijke risico’s van AI.  
• Er is altijd sprake van uitlegbare (explainable) AI. Alle beslissingen die voortvloeien uit de ingezette AI-modellen moeten uitlegbaar en transparant zijn.  

Spotler heeft als taak om ervoor te zorgen dat iedereen die binnen Spotler werkt voldoende ‘aware’ is van de AI-systemen die wij inzetten en dat deze systemen ook voldoende ‘explainable’ zijn. Een zorg die wij uiteraard intern beleggen, maar die we ook naar buiten toe uitdragen. Wij willen dat onze klanten geïnformeerd zijn over de AI-toepassingen in onze software en dat ze zich bewust zijn van de kansen, risico’s en mogelijkheden van deze toepassingen. 

AI-toepassingen in de software van Spotler 

Via speciale webpagina’s, lees je over onze visie op AI en de wijze waarop wij deze visie vertalen in onze software voor Generative AI, Conversational AI en Predictive AI. 

Daarnaast informeren wij onze klanten, prospects en partners onder andere via nieuwsbrieven over de wijze waarop wij AI toepassen. Verder ontwikkelt de marketingafdeling van Spotler specifieke content waarin wij uitleg geven over de verschillende AI-toepassingen.  

Zo kun je uitgebreide guides lezen over Generative AI en Predictive AI met informatie over: de voordelen van AI-toepassingen, de verschillende tools en modellen die er bestaan, de keuzes die Spotler heeft gemaakt, de werking van Large Language Models, de wijze waarop wij privacy beschermen en hoe wij omgaan met prompting en de invoer van data in de verschillende modellen. 

Spotler en OpenAI 

Een belangrijk onderdeel van EU AI Act is de transparantieverplichting die onder andere bestaat voor ‘General purpose AI (GPAI) systems’. De generative AI-toepassing die Spotler inzet, is ChatGPT van OpenAI. Wij maken gebruik van ChatGPT in onze chatbot-technologie en in onze editors voor het maken van mailings en social posts. Wij hebben op de volgende wijze rekening gehouden met de kansen en risico’s van Generative AI: 

Risico’s tegengaan

Prompting-onderdelen zoals tone-of-voice, vertalingen, invoer van URL’s en het maximaal aantal woorden bieden wij gestandaardiseerd aan in onze editors. Wij kiezen voor de standaardisatie van deze prompting-onderdelen omdat Spotler het gebruik van ChatGPT wil afstemmen en limiteren tot de specifieke doelen van onze software: het maken van mooie mailings en het opstellen van doeltreffende social posts. 

In onze editors zijn de AI-modules en de gebruiksmogelijkheden terug te vinden in duidelijke menustructuren: 

In onze generative AI-module hoeven onze gebruikers prompts niet zelf op te bouwen. Wij hebben ze voorgeprogrammeerd op de onderdelen die wij mogelijk maken. Zo beperken wij het risico op onjuiste, onvolledige en ongewenste in- en output van ChatGPT. Daarnaast bieden wij gegevens wel aan aan OpenAI, maar ze worden niet ingezet voor trainingsdoeleinden en ze worden ook niet opgeslagen in onze systemen. 

Verder werken wij in onze eigen chatbot-technologie Spotler Aigent met regex-herkenning. Zodra gebruikers persoonsgegevens als BSN-nummers, telefoonnummers, postcodes of bankgegevens intikken, dan worden zij gevraagd hun invoer te wijzigen.  

Kansen creëren 

Spotler is een softwareleverancier. Dat betekent dat onze developers een diepgaande en uitgebreide kennis hebben van AI-systemen. Wij hebben voldoende knowhow in huis om zoiets als regex-patronen op te nemen in onze chatbot-technologie. Dit geldt natuurlijk niet voor elke medewerker van Spotler. Toch zijn we druk met het ontwikkelen van een AI-awareness-training die voor iedereen binnen Spotler geschikt is. 

Maar belangrijker: onze klanten die gebruikmaken van Spotler Aigent werken vaak voor een gemeente, provincie of een ander overheidsorgaan. Het is vanuit hun wens dat wij regex hebben toegevoegd aan onze AI-toepassing. Zo kunnen de verschillende overheden in ons klantenbestand toch profiteren van de voordelen van generative AI. 

Toekomstige ontwikkelingen 

De EU AI Act is de eerste vorm van AI-wetgeving ter wereld. De EU heeft een tijdschema opgesteld voor de inwerkingtreding van de verschillende onderdelen van de wetgeving. Als Spotler houden wij deze ontwikkelingen goed in de gaten. Maar nogmaals: wij onderschrijven de doelstelling van de verordening. Ook wij willen dat onze gebruikers onze AI-toepassingen met vertrouwen inzetten.