In het Bulletin of the Atomic Scientists werd ik geraakt door het onderstaande. Ik geef hier mijn vertaling weer, het origineel is van Yusuf Can, coördinator van het Middle East Program (MEP) van het Wilson Center.
Conflict in sociale media
Het Israëlisch-Palestijnse conflict is een eeuwigdurende, diepgewortelde problematische kwestie die de loutere geopolitiek overstijgt. Het is een strijd tussen verhalen, een strijd waarin verhalen en percepties evenveel macht uitoefenen als fysieke krachten. In deze ingewikkelde strijd komt desinformatie naar voren als een krachtig wapen dat vakkundig wordt gehanteerd door mensen met kwade bedoelingen. Eén enkele Tweet of een korte TikTok-video is onvoldoende om decennia, zo niet eeuwen, historische achtergrond te destilleren, maar toch bezitten ze het vermogen om de geest van individuen vorm te geven, hun reacties te beïnvloeden en zelfs de beleidsvorming te beïnvloeden. Als zodanig is een onderzoek nodig naar de manier waarop de ongebreidelde misleidende informatie die de dynamiek van de menselijke samenleving vormgeeft, kan worden aangepakt.
Niemand is veilig. Ongeacht iemands standpunt in dit aanhoudende conflict, worden dominante verhalen vaak van generatie op generatie doorgegeven. Het opmerkelijke vermogen van deze verhalen om de publieke opinie te vormen getuigt van hun formidabele kracht. Desinformatie wordt een waardevol instrument bij het ontwikkelen van deze diepgewortelde perspectieven, waardoor de kwetsbaarheid van individuen wordt onthuld wanneer ze worden geconfronteerd met een spervuur van misleidende of ronduit valse informatie. Opvallend is dat zelfs prominente figuren met toegang tot enorme bronnen – journalisten, politici en, ironisch genoeg, CEO’s van sociale media bedrijven – ten prooi kunnen vallen aan de verraderlijke invloed van desinformatie.
Elon Musk
In oktober deelde Elon Musk, de CEO van X, een afbeelding met een kaart van Iran, omsloten door meer dan twintig Amerikaanse vlaggen, die zogenaamd Amerikaanse militaire bases symboliseren. Het begeleidende onderschrift bij Musk’s bericht mijmerde: “Iran wil oorlog. Kijk eens hoe dicht ze hun land bij onze militaire bases hebben gebracht.” Bovendien voegde hij de afbeelding toe met de woorden: “Oh, de Iraniër.” Hoewel het interpreteren van de ware motivaties achter de post voor iedereen ongrijpbaar blijft, behalve voor Musk zelf, dient dit incident als een opvallend voorbeeld van verkeerde informatie, zo niet de meer opzettelijke vorm die bekend staat als desinformatie. De kaart in de afbeelding duidt naar verluidt 26 Amerikaanse militaire bases aan in Afghanistan, Pakistan en Turkmenistan. Maar het feit is dat deze bases niet rondom Iran bestonden. Musk gaf, na behoorlijk gecorrigeerd te zijn, uiteindelijk toe dat hij een onnauwkeurige afbeelding had geplaatst. Het feit dat de CEO van X, berucht om zijn strijd tegen desinformatie, er niet aan kon ontkomen om verstrikt te raken in dit problematische fenomeen is inderdaad opmerkelijk.
Het is één ding als een gebruiker van sociale media met een handvol volgers valse informatie deelt. Wanneer het wordt gedaan door een van de meest invloedrijke individuen ter wereld, vormt het miljoenen geesten over de hele wereld. Dezelfde kwestie met betrekking tot de omvang van de impact geldt ook voor andere actoren, waaronder de reguliere media.
Die keer dat de Duitse krant Die Welt een complottheorie over het Gaza conflict verspreidde1, herinnert ons er grimmig aan dat mediaorganisaties en regeringen ondanks hun aanzienlijke middelen vatbaar blijven voor desinformatie. Deze krachtige instituten spelen een cruciale rol bij het vormgeven van verhalen, of het nu gaat om de onbedoelde verspreiding van valse informatie of de opzettelijke manipulatie van verhalen. Deze dubbele kwetsbaarheid, die voortkomt uit zowel de gevoeligheid voor desinformatie als de doelgerichte verhaalvorming, benadrukt het ingewikkelde landschap waarin deze actoren opereren. Wanneer de indruk wordt gewekt dat deze entiteiten desinformatie gebruiken om hun favoriete verhaal naar voren te brengen, ondermijnt dit niet alleen de geloofwaardigheid van deze instellingen, maar vermindert het ook het vertrouwen van het publiek in de informatie die zij verstrekken. Deze erosie van vertrouwen creëert een leegte die kwaadwillende actoren kunnen uitbuiten, vaak ten koste van onschuldige individuen.
Kunstmatige intelligentie
Na de aanval van Hamas vorige maand (7 oktober 2023) is het bijna onmogelijk geworden om beelden van vernietiging en pijn te vermijden. Online was het al lastig om het bombardement van desinformatie, hergebruikte beelden van conflicten uit het verleden, beelden uit videogames en tegenstrijdige verhalen te doorzoeken om te bepalen wat er daadwerkelijk in het veld gebeurt.
Nu voegen generatieve kunstmatige intelligentie-instrumenten een nieuwe laag van complexiteit toe aan een toch al groeiend probleem met synthetische media. Door AI gegenereerde afbeeldingen, video’s en audio met betrekking tot het aanhoudende conflict zijn in opkomst. Nepbeelden van dode kinderen om emoties op te wekken, door haat aangewakkerde memes gericht op Joodse mensen en opzettelijk gefabriceerde pogingen om het publiek te misleiden zijn te vinden in veel hoeken van sociale-mediaplatforms.
Tientallen jaren lang beloofden technologiemagnaten een toekomst waarin internet en kunstmatige intelligentie de kwaliteit van het menselijk leven zouden verbeteren. Als er ooit een moment was waarop de overdreven beloften van dergelijke technologieën op de proef konden worden gesteld, dan is het conflict tussen Israël en Hamas daar één van. Zonder twijfel heeft de steeds evoluerende technologie talloze voordelen voor het menselijk leven. De creatie en verspreiding van desinformatie geven echter duidelijk de beperkingen, mislukkingen en potentiële schade van het tech-utopisme aan.
Desinformatie en het risico van apathie
Desinformatie over Gaza kan onjuiste details bevatten over de aard van de crisis, de getroffen gebieden en de acties die moeten worden ondernomen, waardoor mensen ongeïnformeerde beslissingen nemen. Hulpverleners vertrouwen bijvoorbeeld op nauwkeurige informatie om efficiënte en effectieve reacties, zoals het bezorgen van voedsel, te plannen en uit te voeren. Desinformatie kan middelen omleiden naar gebieden die geen onmiddellijke hulp nodig hebben, of de inzet van middelen naar gebieden die dringend hulp nodig hebben, vertragen. Dergelijke vertragingen kunnen ernstige gevolgen hebben, vooral als tijd van essentieel belang is.
Maar de gevaren van desinformatie zijn talrijk en kunnen zelfs nog diepgaandere gevolgen op de lange termijn hebben.
Desinformatie zorgt er niet alleen voor dat mensen geloven dat iets onwaars waar is (of andersom). Dat is de besmetting die desinformatie in de atmosfeer verspreidt. Desinformatie erodeert niet alleen iemands kennisbasis, maar ook het vertrouwen in andere mensen om de waarheid te vertellen als deze de vorm heeft van een complottheorie. Denk aan het bombarderen van een ziekenhuis tijdens een conflict. In dat geval heeft het vaststellen van de schuld van de explosie reële, mondiale, juridische en humanitaire gevolgen, en kost het tijd om het bewijsmateriaal te onderzoeken en de feiten vast te stellen. Maar in een samenleving waar miljoenen mensen in slechts een paar seconden toegang hebben tot een groot aantal niet-gecontroleerde informatie, maken kwaadwillende actoren misbruik van deze verwarrende en ingewikkelde toestroom van informatie om de publieke opinie te bewegen het vertrouwen in een bepaalde actor te vertrouwen of te verliezen.
Met andere woorden: een van de meest risicovolle aspecten van desinformatie is dat het individuen cynisch kan maken, omdat het rechtstreeks in de handen van de kwaadwillende actor speelt. Dergelijke actoren kunnen mensen ervan overtuigen hun verhaal te geloven, en zelfs als ze dat niet kunnen, kunnen ze het verhaal waarin ze tot nu toe geloofden in twijfel trekken en hen uiteindelijk demoraliseren. Ten slotte zullen ze mensen het gevoel geven dat zelfs het proberen een probleem op te lossen een nutteloze poging is, waardoor individuen apathisch worden.
Ingrijpen is noodzakelijk
Het gebruik van digitale technologie in de politiek heeft een relatief korte geschiedenis, hoewel misleiding in oorlogsvoering – en het beïnvloeden van de politiek van een land is een vorm van oorlogvoering – al lang teruggaat. Toch is de schaal van misleiding en gebruik van digitale technologie in de wereld van vandaag dramatisch effectiever en drastisch moeilijker te controleren. De voorbeelden waarbij invloedrijke figuren als Elon Musk en mediaorganisaties als Die Welt betrokken zijn, onderstrepen de kwetsbaarheid van zelfs degenen met aanzienlijke middelen voor de verraderlijke invloed van valse informatie. Een groot deel van de rest van de internetconsumenten is slechts een gemakkelijke prooi.
Terwijl technologie, inclusief kunstmatige intelligentie, verweven raakt met het Gaza-conflict, wordt de belofte van een tech-utopie getoetst aan de grimmige realiteit van de schadelijke gevolgen van desinformatie.
De aanhoudende crisis in het Midden-Oosten legt opnieuw de beperkingen en potentiële schade van de overdreven beloften van de technologiewereld bloot. De snelle verspreiding van desinformatie op sociale-mediaplatforms erodeert de kennis en ondermijnt het vertrouwen in informatiebronnen, waaronder overheden. De gevaren van desinformatie reiken verder dan alleen desinformatie; het kan leiden tot cynische perspectieven, het demoraliseren van individuen en het bevorderen van apathie ten aanzien van het oplossen van problemen.
Het is duidelijk: mondiale inspanningen om het wijdverbreide desinformatieprobleem aan te pakken zijn noodzakelijk. In de context van noodhulp zijn de gevolgen tastbaar, waardoor middelen worden onttrokken en tijdige hulp wordt belemmerd. Andere effecten zijn algemener en diffuser. De huidige stand van de technologische ontwikkelingen, gekoppeld aan een gebrek aan regulering en een internationale consensus, verergert de verspreiding van onbetrouwbare informatie, complottheorieën en schade in het echte leven. Terwijl mensen worstelen met de veelzijdige uitdagingen van de wereld van vandaag, van klimaatverandering tot concurrentie tussen grote machten, zijn er stappen gezet om de ongebreidelde desinformatie aan te pakken, maar deze inspanningen bevinden zich nog in de beginfase.
Het kan onmogelijk zijn om de ongebreidelde desinformatie in realtime volledig tegen te gaan, gezien de manier waarop het internet en de sociale mediaplatforms zijn gestructureerd. Zelfs als dat het geval is, heeft de wereldgemeenschap behoefte aan consensus over de manier waarop deze ernstige dreiging moet worden aangepakt voordat zij collectief kan beslissen over de volgende stappen om op zijn minst de meest schadelijke gevolgen ervan te beperken.
1 Een Instagrammer had een sterfbedscenario in een ziekenhuisbed geveinsd en vervolgens een wonderbaarlijke video geplaatst die hun welzijn in de nasleep van een bombardement in Gaza weergeeft. Hoewel de werkelijke omstandigheden aanzienlijk afweken van dit verhaal, propageerde Die Welt de samenzweringstheorie van Pallywood – een samentrekking van ‘Palestina’ en ‘Hollywood’, waarbij hij ongegrond beweerde dat ‘amateuracteurs’ scènes in Gaza verzonnen.