Opvallend verschil van toon tussen nu.nl en nos.nl naar aanleiding van de hack van Hugging Face door een AI-agent van OpenAI die een van hun nieuwe modellen aan het testen was. Bij nu.nl hadden ze het op woensdag over een op hol geslagen model, bij NOS.nl hadden ze het een dag later expliciet over van ‘op hol geslagen AI’ is geen sprake. Daar hadden ze vooral experts gevonden die wisten uit te leggen dat dit verwacht gedrag was, logisch, niet iets om van onder de indruk te zijn. Je krijgt waar je om vraagt.
Mij lijkt dat het een beetje tussen beide houding inligt: ik zou het niet helemaal willen afdoen met een “och ja, logisch toch” en niet helemaal met “o, nee, nu is AI echt helemaal losgeslagen!”. Het zit een beetje in de lijn “zelfrijdende auto’s van dat andere grote bedrijf”. Ook daar kun je wat van vinden voor wat betreft hoe veilig dat allemaal is. Idem voor dit incident. Ja, het was een geplande test van een bekende benchmark. En het resultaat was wat beter dan verwacht. Dan kun je je afvragen of de guardrails wel stevig genoeg waren, of het proces wel goed genoeg gemonitord werd, wie uiteindelijk aansprakelijk is voor de schade die dit gedaan heeft (zal nu wel in den minne opgelost worden over en weer omdat het waarschijnlijk alleen tijd en effort aan de kant van Hugging Face was), etc.
Ik zal niet meteen de Terminator kaart spelen, vind ik wat overdreven. Dit voelt meer als een omgekeerde “Wargames” waarbij in dit geval niet iemand onbedoeld van buiten naar binnen ingebroken is, maar het systeem onbedoeld van binnen naar buiten uitbrak. Vind ik op zich natuurlijk wel een beetje punt van aandacht voor het geval dat het de volgende keer niet Hugging Face (tamelijk ongevaarlijk) maar bijvoorbeeld een waterzuiveringsinstallatie of energiecentrale als doelwit ziet. Dan is de uitspraak bij het Tweakers-bericht dat ook op nu.nl gedeeld werd waarschijnlijk nog meer to the point: het is meer nalatigheid dan een AI-probleem. Eens, maar nalatigheid die relevanter en ernstiger wordt omdat het nalatigheid met een AI-systeem is. In dat kader vind ik “we laten meer weten als we meer weten” van de kant van OpenAI ook niet echt geruststellend.
Kortom, geen echte ramp (nu), wel iets om niet helemaal te bagatelliseren lijkt me. Opvallend weer het verschil in insteek van nu.nl en nos.nl waarbij het lijkt alsof de ene op de andere reageert. Ik zie tijdens het typen van dit bericht op Linkedin een bericht voorbij komen met een link naar een item bij het Financieel Dagblad dat ik niet zomaar kan lezen (en ik heb geen zin in de hoepels die ik door moet om het via LexisNexis te openen) waarvan de strekking ook is “Geen paniek, is gewoon goede marketing van OpenAI”. Sure, fijn als het dat is. Fijn ook dat er zo veel experts zijn die het ene of het andere vinden en vertellen. Op basis van een flintertje info, berichten over berichten over wat mensen van de betrokken bedrijven officieel naar buiten brengen. Nog een reden waarom je mijn naam daar niet in terug zult zien komen.
