Facebook використовує ботів, щоб з’ясувати, як зупинити переслідування

Боти взаємодіють у тестовому середовищі Facebook, повідомляє engadget.

Facebook стверджує, що його дослідники розробляють нові технології, які, як вони сподіваються, допоможуть у постійних зусиллях, спрямованих на те, щоб штучний інтелект (ШІ) на цій платформі змог придушити переслідування. У Web-Enabled Simulation (WES) армія ботів, запрограмованих на імітацію токсичної людської поведінки, випускається у тестовому середовищі, і інженери Facebook потім знаходять кращі контрзаходи.

У WES є три ключові аспекти, сказав у своїй заяві дослідник Facebook Марк Харман. По-перше, він використовує машинне навчання для навчання ботів, щоб імітувати реальну поведінку людей у Facebook. По-друге, WES може автоматизувати взаємодію ботів у великих масштабах, від тисяч до мільйонів. Нарешті, WES розгортає ботів на базі діючого виробничого коду Facebook, що дозволяє ботам взаємодіяти один з одним і з реальним контентом на Facebook, але він відділений від реальних користувачів.

У середовищі тестування, відомому як WW, боти вживають таких дій, як намагання придбати та продавати заборонені предмети, такі як зброя та наркотики. Бот може використовувати Facebook як звичайна людина, проводячи пошук і відвідуючи сторінки. Інженери можуть потім перевірити, чи може бот обійти запобіжні заходи і порушити стандарти спільноти, згідно із заявою. План полягає у тому, щоб інженери могли знайти шаблони у результатах цих тестів і використовувати такі дані для тестування способів, які ускладнять користувачам порушення стандартів спільноти.

Facebook давно заявив, що розробляє методи для запобігання утискам, злочинній діяльності, дезінформації та іншим видам правопорушень на платформі. На конференції у Facebook F8 у 2018 році головний директор з технологій Майк Шрьопфер заявив, що компанія вкладає значні кошти у дослідження штучного інтелекту та шукає способи змусити його працювати у великих масштабах, практично без втручання людини. На думку Facebook, WES, очевидно, є свідченням цього.