Blogafbeelding: “Birds in a row” by The Wren Design is licensed under CC BY-NC-ND 2.0.
Twitter en de DSA
De overname (28-10-2022) van het sociale medium platform ‘Twitter’ door tech-miljardair en ‘entrepreneur’ Elon Musk veroorzaakte internationaal veel ophef, niet alleen bij personen die dagelijks gebruik maken van dit platform, maar ook bij bedrijven en instellingen. Waarom deze ophef?
Op 16 november 2022 werd de Digital Services Act van kracht; in februari 2024 en mei 2023 treden de Europese Digital Services Act (DSA) (‘Digitale Diensten Verordening‘) (DDV) en de Digital Markets Act (DMA) (‘Digitale Markten Verordening‘) in werking; twee verordeningen met een enorme impact; niet alleen op Twitter ook op andere diensten- en marktplatformen zoals de zeer groten; Amazon, Thuisbezorgd.nl, TikTok, Google, Spotify, Microsoft, Facebook/ Meta, Alibaba of Apple én andere bemiddelings-, hosting-, en onlineplatforms.
Op de dag waarop Musk eigenaar werd van Twitter tweette hij “the bird is freed”, waarop Thierry Breton, EU Commissaris voor de interne markt dit retweette met zijn commentaar “In Europe, the bird will fly by our “EU” rules”. Die boodschap beperkte zich dus niet alléén tot Twitter. Frosio1 bespreekt de verantwoordelijkheden van platformen in relatie tot de DSA: een voorpublicatie van een hoofdstuk van een (nieuw) te verschijnen handboek over EU internet wetgeving3.
De achtergrond van de DSA
De DSA komt voort uit een gebrek aan en/of tekortkomingen in de regulering van online platformen en internet zoekdiensten de resulterende bescherming van de gebruikers van deze platformen en zoekdiensten. Dit kan tot uiting komen in bijv. het uitdragen van haat of discriminatie via sociale media, in het ‘volgen’ van gebruikers van platformen of het aanbieden van illegale goederen, ‘content’ of diensten, zoals “het delen van beelden van seksueel misbruik van kinderen, het onrechtmatig en zonder toestemming delen van privébeelden, online stalking, de verkoop van niet-conforme of namaakproducten, de verkoop van producten of het aanbieden van diensten die een inbreuk vormen op het consumentenbeschermingsrecht” (DDV, overweging 124 ).
Frosio1 benoemt de stormachtige ontwikkeling van het internet in de jaren ’80 en ’90 van de vorige eeuw en de noodzaak om bedrijven (economisch) te stimuleren om content, diensten en goederen aan te bieden met een minimum aan beperkingen en een maximum aan ruimte. Dit leidde zodoende tot minimale juridische regels en hun handhaving teneinde de ontwikkeling van het internet zo veel mogelijk te stimuleren.
Het effect van deze ‘ruimte’ uitte zich, paradoxaal genoeg, in een periode waarin bedrijven nieuwe producten, services en technologieën voortbrachten die tegelijkertijd ten kosten gingen van consumenten en/of anderen verhinderden om te kunnen innoveren (Wheeler2).
Het Internet als kantelpunt
Het kantelpunt, voor zover er één moment bestaat, om aansprakelijkheden en verantwoordelijkheden bij platformen te beleggen is te relateren aan maatschappelijke ontwikkelingen ten gevolge van het internet:
- Het ‘ internet’ heeft zich ontwikkeld en is gegroeid buiten iedere verwachting om tot het meest indringende medium in ons dagelijks leven
- Beleidsmakers, overheden en gerechtelijke instituties uiten hun zorgen over de ‘moderatie’ van het internet vanwege de capaciteit om informatie en data te verspreiden die ingrijpen op rechten en sociale onrust creëren op een niet eerder geziene schaal en omvang.
- Online informatie ‘moderatie’ gaat gepaard met enorme kosten in lijn met de groei van het internet (Frosio, p.5).
Het is onmogelijk, in termen van tijd; kosten en effect, met ‘menselijk oordelen’ alleen diensten, producten en services op het internet te reguleren. Zodoende heeft de toepassing van machinale algoritmen via ‘machine learning’ en ‘artificial intelligence’ een hoge vlucht genomen, resulterend in onjuiste blokkades en censurering van ‘content’ teneinde risico’s tot een minimum te beperken. Bekend zijn o.a. voorbeelden van gecensureerde afbeeldingen van vrouwen die borstvoeding geven of afbeeldingen (van kunst) waarop naakt te zien is.
Algoritmen
Juist de mogelijkheid van private bedrijven om via algoritmen te bepalen wie, hoe, wanneer, wat en waar beschikbaar maakt op het internet is een ander probleem;
- De toepassing van algoritmen die bepalen wat wel en niet mag leidt tot een privatisering en delegatie van de publieke (door de overheid gereguleerde) autoriteit.
- Toepassing van algoritmen leidt tot veranderingen in de architectuur van het internet. De keuze is kort gezegd of we een internet willen dat ontworpen is voor ‘free-for all’ en door iedereen wordt gereguleerd of een internet dat wordt ontworpen en ingericht door ‘anderen’ buiten onze controle. Frosio1 verwijst hier naar de uitspraak “the code is the law of cyberspace” uit het boek “Code and other laws of Cyberspace” van de auteur Lawrence Lessig.
- Algoritmen leiden tot besluiten die uitvoer geven aan beleid en belangen en grote consequenties hebben voor de maatschappij, terwijl er een beperkt begrip is van deze processen. Dit leidt tot een ‘black-box maatschappij’ terwijl transparantie en aansprakelijkheid voorwaarden zijn voor een efficiente en democratische regulering.
- De toepassing van algoritmen waardoor toegang tot informatie wordt beperkt leidt tot spanningen met de fundamentele mensenrechten zoals vrijheid van informatie, vrijheid van expressie, vrijheid van bedrijvigheid of een fundamenteel recht op toegang tot het internet (Frosio1, p. 10, 11)
De huidige Europese wetgeving volgt in een traditie die teruggaat naar de jaren ’90 van de vorige eeuw. Vanaf deze periode hebben overheden via wet- en regelgeving getracht ‘governance’ van het internet naar zich toe te trekken.
Digital Services Act in vogelvlucht
De Digital Services Act (DSA) of Digitale Diensten Verordening (DDV)4 creëert een balans tussen de rechten en belangen van stakeholders, en de garantie op een gelijkwaardige behandeling. De verordening start met een groot aantal overwegingen die het ‘gedachtengoed’ van de verordening uitdrukken. Bijv. “De digitale transformatie en het toegenomen gebruik van die diensten hebben echter ook nieuwe risico’s en uitdagingen meegebracht voor individuele afnemers van de betrokken dienst, voor bedrijven en voor de samenleving als geheel” (4Overweging 1)).
Verplichtingen
Wat zijn de Verplichtingen voor platformen, tussenpersonen en hostingservices die hun diensten op de EU markt aanbieden, ongeacht of zij in de EU of daarbuiten zijn gevestigd?
VERPLICHTING | Bemiddelingsdiensten | Hosting services | Online platforms | Zeer grote platformen |
---|---|---|---|---|
Transparantie rapportage | ● | ● | ● | ● |
Vereisten inzake servicevoorwaarden gebaseerd op grondrechten | ● | ● | ● | ● |
Samenwerking met nationale autoriteiten n.a.v. bevelen | ● | ● | ● | ● |
Contactpunten en, indien nodig, wettelijke vertegenwoordiger | ● | ● | ● | ● |
Kennisgeving, actie en verplichting om informatie aan gebruikers te verstrekken | ● | ● | ● | |
Aangifte doen van strafbare feiten | ● | ● | ● | |
Klachten- en verhaalmechanisme en buitengerechtelijke geschillenbeslechting | ● | ● | ||
Vertrouwde flaggers* | ● | ● | ||
Maatregelen tegen misbruikmeldingen en tegen-kennisgevingen | ● | ● | ||
Speciale verplichtingen voor marktplaatsen, bijvoorbeeld het doorlichten van inloggegevens van externe leveranciers, naleving door ontwerp, steekproefsgewijze controles | ● | ● | ||
Verbod op gerichte advertenties aan kinderen en advertenties op basis van speciale kenmerken van gebruikers | ● | ● | ||
Transparantie van aanbevelingssystemen | ● | ● | ||
Gebruikersgerichte transparantie van online adverteren | ● | ● | ||
Verplichtingen op het gebied van risicobeheer en crisisrespons | ● | |||
Externe & onafhankelijke auditing, interne compliance functie en publieke verantwoording | ● | |||
Keuze van de gebruiker om geen aanbevelingen te hebben op basis van profilering | ● | |||
Gegevens delen met autoriteiten en onderzoekers | ● | |||
Gedragscodes | ● | |||
Samenwerking op het gebied van crisisrespons | ● |
*Flagger: een aanvrager die heeft aangetoond dat hij aan elk van de volgende voorwaarden voldoet:
a)hij heeft specifieke expertise en bevoegdheid voor het opsporen, identificeren en melden van illegale inhoud;
b)hij is onafhankelijk van enige aanbieder van onlineplatforms;
c)hij voert zijn activiteiten uit met als doel meldingen zorgvuldig, nauwkeurig en objectief te doen (art. 224).
Aanvullende verplichtingen voor zeer grote online platformen en zeer grote online zoekmachines
- In de verordening zijn aanvullende verplichtingen voor zeer grote online platformen en zeer grote online zoekmachines geformuleerd om systeemrisico’s te beheersen. Platforms en zoekmachines met een gemiddeld aantal van 45 miljoen maandelijkse afnemers vallen o.a. binnen deze definitiecategorie4:
- Bescherming van de fundamentele rechten zoals vastgelegd in het EU handvest neemt een belangrijke plaats in. “Verantwoordelijk en zorgvuldig gedrag van de aanbieders van tussen handel diensten is essentieel voor een veilige, voorspelbare en betrouwbare online omgeving en om Unieburgers en andere personen de mogelijkheid te bieden hun in het Handvest van de grondrechten van de Europese Unie (het “Handvest”) gewaarborgde grondrechten uit te oefenen, met name de vrijheid van meningsuiting en van informatie, de vrijheid van ondernemerschap, het recht op non-discriminatie, evenals het bereiken van een hoog niveau van consumentenbescherming.”
- Risicobeoordeling. Een verplichting voor overheden om hun macht, afgeleid van de DSA, toe te passen teneinde een proportionele balans tot stand te brengen tussen conflicterende fundamentele rechten. Dit verplicht zeer grote digitale platformen op hun beurt tot a. een effectieve bescherming van deze rechten en b. een risico- beoordeling van de impact van hun services/ diensten op o.a. (i) vrijheid van meningsuiting en informatie, (ii) the recht op een privé leven, (iii) het recht op non-discriminatie, (iv) bescherming van persoonsgegevens en (v) de rechten van het kind.
- Risicobeperking. Naar aanleiding van de risico-beoordeling voor zeer grote digitale platformen en online zoekmachines wordt dit gevolgd door “redelijke, evenredige en doeltreffende risicobeperkende maatregelen, die zijn toegesneden op de specifieke systeemrisico” (art. 35), zoals (i) aanpassing van inhoudsmoderatieprocedures, (ii) testen en aanpassing van hun algoritmische systemen, met inbegrip van hun aanbevelingssystemen, (iii) het nemen van gerichte maatregelen ter bescherming van de rechten van het kind, (iv) duidelijke en herkenbare markering van (deep)-fake beeld-, audio- of videomateriaal dat een merkbare gelijkenis vertoont met bestaande personen, voorwerpen, plaatsen of andere entiteiten of gebeurtenissen.
- Crisisresponsmechanisme. Het toepassen van dwang in het geval van een (mogelijke) crisis om middels een aanbeveling van de digitale dienstenraad om vastgestelde ernstige bedreiging te voorkomen, weg te nemen of te beperken.
- Onafhankelijke controle. Aanbieders van zeer grote onlineplatforms en van zeer grote onlinezoekmachines worden, op hun eigen kosten en ten minste één keer per jaar, onderworpen aan onafhankelijke controles om de naleving te beoordelen van de in de wet vastgestelde zorgvuldigheidsverplichtingen voor een transparante en veilige online omgeving (art. 37).
- Aanbevelingssystemen. Het toevoegen van tenminste één optie in aanbevelingssystemen die niet is gebaseerd op profilering.
- Transparantie m.b.t. online reclame. Inrichten en beschikbaar stellen van een register, wanneer reclame wordt getoond, waarin gegevens en metadata over de reclame toegankelijk, doorzoekbaar en volledig zijn.
- Toegang tot gegevens en onderzoek. De Europese commissie en/of diens vertegenwoordiger (“digitaledienstencoordinator”) heeft toegang tot de gegevens die noodzakelijk zijn voor de naleving van de DDV.
- Compliance. Inrichting, toegankelijkheid en beschikbaarstelling van een compliancefunctie die onafhankelijk is van de ‘business’ van zeer grote onlineplatforms en zeer grote onlinezoekmachines .
- Rapportage over transparantie. Voorwaarden en inhoud van de rapporten die opgeleverd moeten worden Dit betreft bijv. evt. inhoudsmoderatie (sociale media), bevelen van lidstaten betr. illegale inhoud (online content platforms), afhandeling van klachten, gebruik van geautomatiseerde inhoudsmoderatie (‘bots’).
- Toezichtsvergoeding. Aan zeer grote onlineplatforms en zeer grote onlinezoekmachines wordt een jaarlijkse toezichtsvergoeding in rekening gebracht (De gebruiker betaald?).
De implementatie van de DSA
Inmiddels heeft de Europese Commissie 17 zeer grote platformen (Very Large Online Platforms) en 2 zeer grote zoekmachines (Very Large Online Search Engines) aangewezen die vanaf 25 augustus 2023 moeten voldoen aan alle nieuwe verplichtingen. In februari 2024 volgen de ‘kleinere’ platformen en zoekmachines.
De EU gaat met de ‘Digital Services Act’ & ‘Digital Markets Act’ eisen stellen aan platformen die de toegang beheren (‘gatekeepers’) tot diensten en services zoals bijv. sociale media of webservices. Beide wetten hebben ingrijpende gevolgen voor platformen, zowel op het gebied van marktdominantie en online platformen (Apple, Google, Amazon, Meta, Microsoft, TikTok). In een interview met NRC word de aanpak van Amerikaase tech-giganten middels deze wetgeving met de nieuwe EU “digitale diplomatie -ambassadeur”, Gerard de Graaf, besproken.
Bronvermelding
- Frosio, G. (2022) Platform responsibility in the Digital Services Act: Constitutionalising, Regulating and Governing Private Ordening (October 3, 2022). (Forthcoming in Andrej Savin and Jan Trzaskowski (eds), Research Handbook on EU Internet Law, Edward Elgar), Available at SSRN: https://ssrn.com/abstract=4236510
- Wheeler, T., Verveer, P., Kimmelman, G. (2020) New digital realities; new oversight solutions in the U.S. The Case for a Digital Platform Agency and a New Approach to Regulatory Oversight. HARVARDKennedySchool Shorenstein Center on Media, Politics and Public Policy.
- Andrej Savin and Jan Trzaskowski (eds), Research Handbook on EU Internet Law, Edward Elgar.
- VERORDENING (EU) 2022/2065 VAN HET EUROPEES PARLEMENT EN DE RAAD
van 19 oktober 2022 betreffende een eengemaakte markt voor digitale diensten en tot wijziging van Richtlijn 2000/31/EG (digitaledienstenverordening) https://eur-lex.europa.eu/legal-content/NL/TX/PDF/?uri=CELEX:32022R2065#BK_L_20221017-018NL001_ACT
Dit werk valt onder een Creative Commons Naamsvermelding-NietCommercieel 4.0 Internationaal-licentie.