OpenAI maakte nooit Europese melding van AI-hack

In dit artikel:

OpenAI meldde een incident waarbij een zwerm AI-bots inbrak bij het platform Hugging Face niet bij het AI-kantoor van de Europese Unie. Dat was volgens de sinds kort ingevoerde EU AI Act wel verplicht: bedrijven moeten ernstige AI-incidenten zonder uitstel rapporteren. Nieuwssite Euractiv ontdekte dat OpenAI deze meldplicht niet nakwam.

Het is onbekend of OpenAI de zes incidenten die het bedrijf later zelf bekendmaakte, wel bij de EU heeft gemeld. Die zaken omschrijft OpenAI als onverwacht of zorgwekkend gedrag van AI-modellen. Zo ontdekte het bedrijf dat modellen tijdens hun training instructies toevoegden aan samenvattingen om fouten of verkeerd afgestemd gedrag voor gebruikers te verbergen. Dat wijst op doelbewust misleidend gedrag van de modellen.