Темна сторона штучного інтелекту: загроза необмежених мовних моделей для шифрування галузі

З розвитком технологій штучного інтелекту, від серії GPT до таких сучасних моделей, як Gemini, відбуваються глибокі зміни у нашому способі життя. Однак у цій технологічній революції виникає тривожна тенденція — поява необмежених великих мовних моделей.

Моделі без обмежень — це ті, які навмисно розроблені або модифіковані, щоб обійти вбудовані механізми безпеки та етичні обмеження основних моделей. Хоча основні розробники ШІ зазвичай витрачають значні ресурси на запобігання зловживанням своїми моделями, деякі особи або організації, керуючись незаконними цілями, почали шукати або розробляти не контрольовані моделі. У цій статті буде досліджено потенційні загрози таких без обмежень моделей у сфері криптовалют, а також пов'язані з ними виклики безпеки та стратегії реагування.

Небезпеки безмежних мовних моделей

Поява таких моделей значно знизила поріг для здійснення мережевих атак. Завдання, які раніше вимагали професійних навичок, такі як написання шкідливого коду, створення фішингових електронних листів або організація шахрайства, тепер за допомогою цих моделей можуть легко виконувати навіть особи з обмеженими технічними можливостями. Зловмисникам потрібно лише отримати ваги та вихідний код відкритої моделі, а потім налаштувати її на набір даних, що містить шкідливий контент або незаконні інструкції, щоб створити індивідуальні інструменти для атак.

Ця тенденція приносить численні ризики: зловмисники можуть налаштовувати моделі під конкретні цілі, генеруючи більш обманливий контент; моделі можуть використовуватися для швидкого створення варіантів коду фішингових сайтів або для адаптації шахрайських текстів під різні платформи; водночас доступність відкритих моделей також сприяє формуванню підпільної екосистеми ШІ, створюючи сприятливе середовище для незаконної торгівлі та розробки.

Типові моделі без обмежень та їх загрози

1. Темна версія GPT

Це модель шкідливого програмного забезпечення, яка продається на підземних форумах, її розробники чітко заявили, що вона не має жодних етичних обмежень. Модель базується на відкритій архітектурі та була навчена на великій кількості даних, пов'язаних з шкідливим програмним забезпеченням. Її типове зловживання в сфері шифрування включає:

• Генерація реалістичних фішингових електронних листів, що видають себе за біржі криптовалют або постачальників гаманців
• Допомога у написанні шкідливого коду для викрадення файлів гаманців або моніторингу дій користувачів
• Стимулювання автоматизованого шахрайства, залучення жертв до участі у фальшивих проектах

2. Модель аналізу вмісту темної мережі

Хоча початкова мета полягала в наданні інструментів для аналізу темної мережі дослідникам з безпеки, наслідки можуть бути жахливими, якщо чутлива інформація, якою володіють такі моделі, потрапить до рук злочинців. Потенційне зловживання включає:

• Збирати інформацію про шифрування користувачів та команди проєктів, впроваджувати точні шахрайства
• Копіювання зрілих методів викрадення криптовалюти та відмивання грошей у темній мережі

3. Асистент з мережевого шахрайства

Ці моделі були розроблені як універсальні інструменти для мережевого шахрайства, які продаються на чорному ринку. Їх типове застосування в сфері шифрування включає:

• Підробка шифрувальних проектів, створення білих книг, офіційних сайтів та інших матеріалів для шахрайського фінансування
• Масове створення фальшивих сторінок для фішингу, що імітують відомі біржі
• Масове створення фальшивих коментарів у соціальних мережах для просування шахрайських токенів
• Імітувати людську розмову, встановивши довіру з користувачем, спонукати його розкрити чутливу інформацію

4. ШІ-асистент без моральних обмежень

Ці моделі чітко позиціонуються як AI-чат-боти, які не підлягають моральним обмеженням, а потенційні загрози в області шифрування включають:

• Генерувати високоякісні фішингові електронні листи, видаючи себе за біржу, щоб поширювати фальшиві повідомлення.
• Швидке генерування коду смарт-контракту з прихованими задніми дверима
• Створення шкідливого програмного забезпечення з можливістю трансформації для крадіжки приватних ключів та мнемонічних фраз
• Поєднуючи з іншими AI-інструментами, створювати глибокі підроблені відео або голоси для шахрайства

5. Платформа ШІ з низьким рівнем перевірки

Деякі платформи ШІ надають доступ до різноманітних моделей мов з обмеженнями, хоча стверджують, що це для вивчення можливостей ШІ, але це також може бути зловжито. Потенційні ризики включають:

• Обійти цензуру для створення шкідливого контенту, такого як фішингові шаблони або неправдива реклама
• Знижуйте поріг для підказок, щоб зловмисникам було легше отримати вихід, який зазвичай обмежений.
• Прискорення ітерації методів атак, швидке тестування різних моделей на реакцію на шкідливі команди

Стратегії реагування

Поява мовних моделей без обмежень знаменує собою нову парадигму атак, з якою стикається кібербезпека, що є більш складною, масштабною та автоматизованою. Це не лише знижує поріг для атак, але й приносить нові, більш приховані та обманливі загрози.

Щоб впоратися з цим викликом, усім сторонам безпекової екосистеми потрібно спільно працювати:

1. Збільшити інвестиції в технології перевірки, розробити системи, які можуть виявляти та блокувати шкідливий контент, згенерований AI, експлуатацію вразливостей смарт-контрактів та шкідливий код.

2. Сприяти розвитку можливостей моделі проти зломів, досліджувати механізми водяних знаків і відстеження, щоб мати можливість відстежувати походження шкідливого контенту у критичних ситуаціях.

3. Встановлення чинних етичних норм і механізмів регулювання, щоб з самого початку обмежити розробку та зловживання зловмисними моделями.

4. Посилити освіту користувачів, підвищити обізнаність суспільства щодо розпізнавання контенту, створеного ШІ, та безпеки.

5. Заохочуйте співпрацю в галузі, обмінюйтеся інформацією про загрози та спільно реагуйте на нові виклики безпеки штучного інтелекту.

Тільки спільними зусиллями багатьох сторін можна забезпечити безпеку та здоровий розвиток екосистеми шифрування під час стрімкого розвитку технологій ШІ.