YouTube heeft bevestigd dat er een verplicht labelsysteem zal worden ingevoerd voor inhoud die is gemaakt met behulp van kunstmatige intelligentie
Naast deep fake-video's zal ook muziek die echte artiesten 'nabootst' het doelwit zijn, met straffen zoals opschorting van het account
YouTube heeft bevestigd dat er een verplicht labelsysteem zal worden ingevoerd voor inhoud die is gemaakt met behulp van kunstmatige intelligentie.
De videostreaminggigant maakte de aankondiging in een blog die gisteren, 15 november, werd gepost. Het is op dit moment niet duidelijk wanneer de beleidswijziging in werking treedt.
Volgens de verklaring zullen gebruikers worden gevraagd om binnen "de komende maanden" bekend te maken of AI bij hun projecten betrokken is geweest. Dit soort werk dat als "realistisch" wordt beschouwd, moet worden geëtiketteerd, hoewel het niet duidelijk is hoe dit wordt gedefinieerd.
Het systeem is van toepassing op video's van elke lengte, inclusief YouTube Shorts, en is gebaseerd op een zekere mate van zelfcontrole. Makers wordt gevraagd om te verduidelijken of AI betrokken is geweest bij het uploaden van inhoud, en iedereen die AI-creaties aan hun kanaal toevoegt zonder dit aan te geven, wordt geschorst of andere straffen opgelegd.
De stap is in de eerste plaats bedoeld om de dreiging aan te pakken die uitgaat van deep fake-video's, die dingen laten zien die in het echte leven niet hebben plaatsgevonden. Spraakmakende publieke figuren, van Sir Keir Starmer, leider van de Britse Labour Party, tot Hollywood-ster Bruce Willis zijn in dit soort inhoud 'verschenen'. In 2022 voerde de Zuid-Koreaanse tv-zender MBN een deep fake uit van zijn eigen anker dat het nieuws presenteerde, en het bedrijf blijft onderzoeken hoe de technologie kan helpen bij het breken van verhalen.
"Wanneer videomakers inhoud uploaden, hebben we opties die ze kunnen selecteren om aan te geven dat het realistisch gewijzigd of synthetisch materiaal bevat", aldus de YouTube-blog. "Dit kan bijvoorbeeld een door AI gegenereerde video zijn die een realistische weergave geeft van een gebeurtenis die nooit heeft plaatsgevonden, of inhoud waarin iemand iets zegt of doet wat hij niet echt heeft gedaan.
"Dit is vooral belangrijk in gevallen waarin de inhoud gevoelige onderwerpen bespreekt, zoals verkiezingen, aanhoudende conflicten en volksgezondheidscrises, of ambtenaren", vervolgde het bericht. "Er wordt een nieuw label toegevoegd aan het beschrijvingspaneel dat aangeeft dat een deel van de inhoud is gewijzigd of synthetisch is. En voor bepaalde soorten content over gevoelige onderwerpen passen we een prominenter label toe op de videospeler."
YouTube heeft ook plannen aangekondigd om AI-ondersteunde muziekuploads aan te pakken, met de nadruk op tracks die de stem van een specifieke artiest nabootsen. In mei bleek dat een aantal nummers die aan Frank Ocean werden toegeschreven, 'gelekt' en online werden verkocht voor $ 13.000, eigenlijk waren gemaakt met deep fake audio. Een recente studie van Pirate Studios suggereert dat meer dan de helft van degenen die dit doen dit niet openlijk zou toegeven.
Volgens de officiële blogpost: "We introduceren ook de mogelijkheid voor onze muziekpartners om de verwijdering aan te vragen van door AI gegenereerde muziekinhoud die de unieke zang- of rapstem van een artiest nabootst. Bij het bepalen of we een verwijderingsverzoek inwilligen, houden we rekening met factoren zoals of de inhoud het onderwerp is van nieuwsberichtgeving, analyse of kritiek op de synthetische zang... Deze verwijderingsverzoeken zijn beschikbaar voor labels of distributeurs die artiesten vertegenwoordigen die deelnemen aan de vroege AI-muziekexperimenten van YouTube. We zullen de toegang tot extra labels en distributeurs de komende maanden blijven uitbreiden."
