- De Amerikaan John Fitzpatrick werkt al jaren met AI en is gefascineerd door hoe sommige bedrijven omgaan met artificial intelligence.
- Er zijn namelijk organisaties die aan AI-washing doen, zegt hij. AI-washing houdt in dat bedrijven zeggen dat ze iets met AI doen, terwijl dat nauwelijks het geval is.
- Fitzpatrick biedt in een bijdrage voor Business Insider uiteenlopende adviezen voor organisaties die met AI werken.
- Lees ook: De AI-hype is een zeepbel die – net als eerdere techbubbels op de beurs – gaat barsten, volgens beursgoeroe Jeremy Grantham
Dit artikel in de ik-vorm is gebaseerd op een gesprek van redacteur Lee Chong Ming van Business Insider met AI-expert John Fitzpatrick.
Ik werk inmiddels vijftien jaar in de kunstmatige intelligentie (AI) en was een van de oorspronkelijke ingenieurs die werkte aan de spraakassistent Siri van Apple. Op dit moment ben ik Chief Technology Officer bij Nitro, een softwarebedrijf dat organisaties helpt om documenten efficiënter te beheren en te beveiligen.
Het afgelopen jaar heb ik veel AI-washing voorbij zien komen, vooral sinds de opkomst van ChatGPT.
Wat is AI-washing?
AI-washing houdt in dat bedrijven overdrijven of een onjuist beeld schetsen van wat hun AI-applicaties daadwerkelijk doen, puur om te kunnen zeggen dat ze ‘iets met AI’ doen.
Plotseling verschenen er talloze apps die in feite niet meer waren dan een nieuw jasje over ChatGPT. Bedrijven begonnen hun bestaande automatiseringsfuncties te hernoemen tot AI, zonder dat er daadwerkelijk iets aan het product veranderde.
Ik zie hier duidelijke parallellen met de ‘cloud’-hype van een aantal jaar geleden. Toen wilde ineens elk bedrijf een cloudbedrijf zijn. Nu gebeurt datzelfde met AI: luister je naar de verhalen bij de kwartaalcijfers van bedrijven, dan lijkt het alsof elk bedrijf ineens met AI bezig is.
Uit recente data van AlphaSense blijkt dat het aantal keren dat termen als ‘agentic AI’, ‘AI workforce’, ‘digital labor’ en ‘AI agents’ tijdens persconferenties worden genoemd, het afgelopen jaar met 779 procent is gestegen.
Bijna iedere startup moet tegenwoordig iets met AI doen om financiering binnen te halen.
Hoe herken je AI-washing?
Er zijn verschillende vormen van AI-washing. Een voorbeeld is een aangepaste gebruikersinterface bovenop ChatGPT, eventueel met wat eenvoudige prompt-engineering. Soms kan dat waarde toevoegen, maar vaak levert het weinig tot niets op.
Een ander probleem is dat bedrijven in hun haast om AI-functies te lanceren, simpele integraties uitrollen zonder goed na te denken over privacy of beveiliging van klantgegevens. In het slechtste geval brengen grote spelers nieuwe assistent-functies uit en passen ze hun algemene voorwaarden aan, zodat ze klantdata kunnen gebruiken om hun modellen te trainen.
Hier komt een risico van afhankelijkheid van publieke API’s en diensten van derden bij. Het probleem is dat bedrijven hier zelf geen controle over hebben. Dat betekent dat gevoelige documenten naar externe partijen worden gestuurd, wat een groot beveiligingsrisico vormt.
In gereguleerde sectoren, waar vaak met zeer gevoelige documenten wordt gewerkt, is het extra belangrijk om alert te zijn op ‘hallucinaties’ van AI en te zorgen dat je bijvoorbeeld zeker weet hoe betrouwbaar een model is.
Veel van onze klanten hebben facturen en financiële gegevens in PDF-bestanden. Het is dan cruciaal dat de data nauwkeurig wordt uitgelezen. Het moet ook meteen duidelijk zijn als het AI-model ergens onzeker over is.
Bedrijven proberen bovendien steeds vaker volledige automatiseringsprocessen zonder menselijke controle in te richten. Juist daar kunnen fouten ontstaan. In dit soort sectoren kan dit pijnlijke gevolgen hebben.
We zijn nu voorbij de hype en belanden in de fase waarin AI echt wordt toegepast. Het wordt een onderdeel van krachtige softwarediensten. Bedrijven ontdekken wat AI wel en niet kan, bouwen goede functionaliteiten en maken slim gebruik van AI. Daardoor beginnen investeerders steeds beter het verschil te zien tussen oppervlakkige AI en toepassingen die daadwerkelijk waarde toevoegen.