Штучний інтелект і фейки: які ризики постали перед операторами

Про це пише Конор Рейнолдс в матеріалі для iGB.

Зокрема, чорний ринок використовує ШІ для створення ефективних промоцій. Нещодавно телеканал Sky News помітив, що послуги нелегалів рекламують його телеведучі, а точніше їхні копії. Один з начебто медійників розповідав, як нова гра принесла йому виграш у 500 тис. фунтів. Рекламу масово поширили у соціальних мережах.

Використовують ШІ і для обману іншого типу – технології допомагають зловмисникам обійти перевірку платоспроможності, зокрема, для відмивання грошей. Британський регулятор всіляко привертає увагу операторів до таких ризиків і радить проводити спеціальні тренінги для персоналу, які б допомогли відрізнити справжню особистість від фейкової.

Та зробити це нелегко. Створені ШІ синтетичні ідентичності легко проходять перевірки. Навіть якщо на етапі ідентифікації обличчя у них виникають складнощі, програми можуть вирішити їх у чатах підтримки та за допомогою опції голосової авторизації. Адже ШІ наразі здатний копіювати не лише риси обличчя, але й міміку та голос.

Автори тематичного дослідження з Інституту Алана Тюрінга стверджують, що законодавча система Британії наразі не має інструментів, аби попереджати, припиняти чи розслідувати злочини з використанням ШІ. Аби це виправити, потрібно хоча б долучити ШІ до роботи правоохоронної системи.

При цьому Акт безпеки в Інтернеті, прийнятий у 2023 році, зобов’язує операторів представити способи боротьби з шахрайством. Вони повинні, в тому числі, включати обладнання, яке шукає та видаляє пости та рекламу з використанням викрадених або фейкових ідентичностей.

Серед можливих кроків для протистояння шахрайству – впровадження біометрії при перевірці документів, збір відбитків пальців та даних геолокації. Крім цього машинне навчання допоможе виявляти невідповідності у поведінці гравців.

Один з методів протистояння фейковим “особистостям” – впровадження електронних ідентифікаторів, зокрема, використання криптографічних ключів та біометричних даних. Цифрові ID-картки є в низці європейських країн, включно з Україною. Втім, безпечне використання таких документів для азартних розваг залишається непростим завданням.