De Verenigde Staten ontdekken een groot netwerk van Russische bots dat twijfelachtige informatie verspreidt.

Het Amerikaanse Ministerie van Justitie (DOJ) heeft een belangrijk netwerk van Russische bots, dat kunstmatige intelligentie (AI) gebruikt, ontmanteld. Dit botnet had meer dan 900 valse sociale media profielen gegenereerd met als doel desinformatie over de oorlog tussen Rusland en Oekraïne te verspreiden in de Verenigde Staten en andere landen.

Desinformatie Operatie met AI

De geavanceerde operatie maakte gebruik van AI om neppe profielen te creëren, voornamelijk op platform X (voorheen bekend als Twitter), die zich voordeden als Amerikaanse burgers. Deze profielen plaatsten berichten die de oorlog in Oekraïne ondersteunden, inclusief video’s van president Vladimir Poetin die de Russische invasie rechtvaardigden en andere pro-Kremlin verhalen promootte.

Betrokkenheid van Russische Staatsmedia

Uit het onderzoek van het DOJ bleek dat een niet geïdentificeerde redacteur van RT, het Russische staatsmedia kanaal, achter deze propaganda-campagne zat. Daarnaast had de hogere directie van RT het gebruik van deze botfabriek goedgekeurd om «informatie op grote schaal te verspreiden».

Impact en Genomen Maatregelen

Hoewel het DOJ nog niet heeft vastgesteld hoeveel mensen de door AI gegenereerde neppe inhoud hebben gevolgd of er interactie mee hebben gehad, heeft het platform X de neppe profielen geschorst voor «overtredingen van de servicevoorwaarden».

Context en Toekomstige Zorgen

Het Kremlin gebruikt al lang valse sociale media profielen om desinformatie en propaganda te verspreiden. Echter, met de snelle vooruitgang in AI, de mogelijkheid creërend om realistische maar foute beelden, teksten, audio’s en video’s te maken, wordt deze praktijk steeds gebruikelijker. Recentelijk hebben zowel Meta als OpenAI campagnes geïdentificeerd, sommige gelinkt aan Rusland, die AI gebruiken om de publieke opinie te manipuleren en desinformatie te verspreiden.

Verklaringen van Experts

Een woordvoerder van het DOJ merkte op: «Het gebruik van AI om neppe profielen te maken en propaganda te verspreiden vormt een groeiende bedreiging voor de nationale veiligheid en de integriteit van de publieke informatie. We zullen doorgaan met het onderzoeken en ontmantelen van deze operaties om onze maatschappij te beschermen tegen manipulatie en desinformatie».

De ontdekking van deze botfabriek benadrukt de dringende noodzaak om betere beveiligingsmaatregelen en detectie op sociale mediaplatforms te ontwikkelen en toe te passen om de desinformatie gedreven door AI tegen te gaan.

Conclusie

Het ontmantelen van deze operatie van Russische bots is een belangrijke stap in de strijd tegen wereldwijde desinformatie. Naarmate de technologie van AI zich verder ontwikkelt, is het cruciaal dat zowel autoriteiten als sociale mediaplatforms hun strategieën aanscherpen om deze dreigingen te identificeren en te neutraliseren.