- Dario Amodei, de mede-oprichter en CEO van AI-bedrijf Anthropic, ging tijdens de techconferentie Dreamforce in op de vraag hoe bedrijven artificial intelligence kunnen toepassen.
- Privacy en IT-security, de betrouwbaarheid van AI-modellen en het verwachtingspatroon omtrent de inzet van AI zijn de belangrijkste punten van aandacht.
- Anthropic hecht veel waarde aan ethisch en veilig gebruik van artificial intelligence.
- Lees ook: Hallucinerende artificial intelligence is juist goed en de toekomst van AI heeft ‘enge’ verrassingen in petto, volgens topman Sam Altman van het bedrijf achter ChatGPT
Hoe kunnen bedrijven verstandig en ethisch gebruikmaken van artificial intelligence? Die vraag is momenteel een ‘hot topic’ bij veel ondernemingen.
Dankzij de vele problemen die nog aan de nieuwe technologie kleven, is het alles behalve eenvoudig om bijvoorbeeld een AI-chatbot verantwoord te integreren in bedrijfsprocessen.
Als onderneming moet je onder andere rekening houden wat er met je data gebeurt en hoe een aanbieder van generatieve AI met privacygevoelige data omgaat.
Ook zaken als AI-software die bevooroordeelde antwoorden geeft, of foutieve antwoorden verzint (hallucineren), moeten serieus genomen worden.
Bij AI-bedrijf Anthropic, zijn ze druk bezig met deze kwesties. Mede-oprichter Dario Amodei sprak afgelopen week op techconferentie Dreamforce in San Francisco met Lidiane Jones, de CEO van Slack, over de toekomst van werken met AI binnen bedrijven.
Amodai gaf tijdens het gesprek aan dat Antrhopic goede oplossingen wil bieden voor bovengenoemde problemen en het daarom rustiger aan doet dan Google (Bard) en OpenAI (ChatGPT) met het introduceren van de eigen chatbot, die de naam Claude draagt.
“Voor ons was het cruciaal om er zeker van te zijn dat we ons AI-model op de juiste manier onder controle houden en dat het goed zit met de veiligheid. We wilden niet zo snel mogelijk iets op de markt gooien”, legde Amodei uit. “Zie het als de iPhone. We zijn niet de eerste op de markt, maar we willen wel de beste zijn.”
3 cruciale zaken voor bedrijven bij toepassingen van AI
Op de vraag waar bedrijven op zouden moeten letten als ze artificial intelligence in hun organisaties willen gaan gebruiken, noemde Amodei drie hoofdpunten punten: privacy en IT-security, de betrouwbaarheid van een AI-model en het verwachtingspatroon omtrent de inzet van artificial intelligence.
“Ik denk dat privacy en security enorm belangrijk zijn. Veel bedrijven werken met klantdata waarbij je de verantwoording draagt om het privé te houden en ervoor te zorgen dat het niet gestolen wordt”, zegt Amodei. Hij geeft daarbij aan dat dit niet per se een aandachtspunt voor toepassingen van artificial intellingende specifiek is, maar dat het wel cruciaal is voor je bedrijfsvoering. Het is zaak om zeker te weten dat data veilig wordt opgeslagen en dat er verantwoord mee wordt omgesprongen.
“Wat betreft de betrouwbaarheid van een AI-model denk ik dat het het belangrijkste is dat je weet dat het model op voorspelbare manieren werkt. Hallucineren is een groot probleem. Als je met met medische of juridische applicaties werkt, of gewoon in een willekeurige professionele of op kennis gebaseerde omgeving werkt, is precisie heel erg belangrijk. Je moet zeker weten dat je dit soort systemen kunt vertrouwen”, aldus Amodei.
Maar hij plaatst hier ook een kanttekening bij, want “op dit moment is geen enkel model perfect op dit gebied. Dat wil ik duidelijk maken. De cijfers geven op dit moment wel duidelijk aan dat wij de beste zijn op dit gebied, maar we denken dat het nog niet goed genoeg is en daarom proberen we ook beter te worden.”
AI-software zal altijd verrassingen opleveren: dat moet je incalculeren
Top slot denkt Amodei dat het belangrijk is om de verwachtingen van de prestaties van een AI-model in bepaalde scenario’s van tevoren te overwegen. “Modellen zullen nooit perfect zijn, net zoals zelfrijdende auto's nooit perfect zullen zijn of vliegtuigen nooit perfect zullen zijn”, zegt de CEO, doelend op het feit dat er bij grote aantallen gebruikers altijd onverwachte dingen gebeuren.
“Een implementatie die in een bepaalde context volkomen veilig en ethisch is met de juiste vangrails, kan onethisch zijn als deze in een andere omgeving wordt geplaatst. De infrastructuur eromheen bouwen is dus erg belangrijk.”
Tot slot geeft Amodei mee dat bedrijven moeten anticiperen op de een snelle verbetering van AI-toepassingen: “De ontwikkeling gaat erg snel. Het is makkelijk om nu iets in gebruik te nemen, maar het kost tijd om echt een ambitieuze implementatie van artificial intellingence binnen je bedrijf uit te bouwen. En tegen de tijd dat je zover bent, is er een beter AI-model dat je kunt gebruiken."
Het is dus belangrijk om flexibel te blijven en er alvast rekening mee te houden dat er betere AI-modellen aankomen. "Want dat gebeurt zeker, daar twijfel ik niet over”.
