Generatieve AI

Waar het over gaat

Generatieve AI verwijst naar een familie van systemen die nieuwe inhoud kunnen produceren: teksten, beelden, video's, broncode en synthetische data. Getraind op grote hoeveelheden materiaal herkennen deze modellen patronen en genereren ze relevante antwoorden op specifieke vragen. Anders dan classificatie- of voorspellingssystemen verspreiden generatieve modellen zich als een overkoepelende laag, die geleidelijk wordt opgenomen in bedrijfssoftware en elke functie van een geautomatiseerde assistent voorziet.

Vraagstukken en debatten

Vier kwesties bepalen het publieke debat. Het intellectueel eigendom: de modellen worden getraind op inhoud die door mensen is gemaakt, zonder vergoeding of uitdrukkelijke toestemming van de auteurs, wat vragen oproept over beloning en gebruiksrechten. De desinformatie: het vermogen om op grote schaal geloofwaardige inhoud te maken verlaagt de kosten van misleiding en bemoeilijkt de verificatie. De vertekeningen: de modellen reproduceren en versterken de ongelijkheden in hun trainingsdata. Tot slot blijft de transparantie kwetsbaar: begrijpen hoe een model tot een antwoord komt is nog altijd lastig, wat de juridische verantwoordelijkheid en het vertrouwen bemoeilijkt.

Regelgeving en Europees kader

In Europa stelt de AI-verordening een op risico gebaseerd kader vast. Algemeen inzetbare modellen, bekend als basismodellen, zijn onderworpen aan specifieke verplichtingen: documentatie van de trainingsdata, beoordeling van systeemrisico's en het voorkomen van verboden inhoud. De toepassing verloopt in fasen. De gegevensbeschermingsautoriteiten verduidelijken de eisen rond transparantie en gegevensverwerking, terwijl de Europese Commissie de handhaving stuurt. De Europese overheden debatteren bovendien over technologische soevereiniteit en het toezicht op basismodellen.

Wat ActuIA volgt

ActuIA volgt de ontwikkeling van het wettelijk kader, de debatten over intellectueel eigendom en de afweging tussen innovatie en bescherming, de vooruitgang op het vlak van robuustheid en audit van de modellen, de proefprojecten in de publieke en private sector en de controverses over problematische toepassingen zoals vervalste media en geautomatiseerde discriminatie. We volgen ook de initiatieven rond transparantie en standaardisering, evenals de opensource-alternatieven voor propriëtaire modellen.