Твердження: Самостійні агентства ШІ «кластер» або посилюють ризики маніпулювання громадською думкою на платформах

PANews 20 лютого повідомляє, що згідно з повідомленням Decrypt, дослідники з університетів та науково-дослідних інститутів кількох країн у статті, опублікованій у «Science», попереджають, що майбутні онлайн-«кампанії впливу» перетворюються з легко ідентифікованих простих водних армій/зомбі-мереж на «зграї» (swarms), що складаються з великої кількості автономних AI-агентів, здатних у меншій мірі людського втручання спільно маніпулювати громадською думкою. У дослідженні зазначається, що такі AI-зграї можуть імітувати поведінку реальних людей, автоматично адаптуватися до різних акаунтів і платформ, а також тривалий час створювати певні наративи, що ускладнює їх виявлення за допомогою існуючих систем контролю та модерації, орієнтованих на боротьбу з спамом і порушеннями на окремих платформах. Вчені вказують, що платформи наразі мають суттєві недоліки у верифікації особистості, моніторингу зловживань акаунтами та прозорості щодо аномальної спільної поведінки, а також у зовнішньому аудиті, тому просте покладанняся на контент-модерацію не може бути ефективним захистом.