Коли лідери технологічних гігантів, включаючи Amazon, Google, Мета і Microsoft зустрічаючись із президентом Джо Байденом минулого місяця, вони пообіцяли дотримуватися заходів захисту штучного інтелекту, розроблених для того, щоб переконатися, що їхні інструменти штучного інтелекту безпечні перед оприлюдненням їх для громадськості. Серед їхніх зобов’язань – ретельне тестування систем ШІ для захисту від однієї з найбільш значних сфер ризику: кібербезпеки.
Роль, яку генеративний штучний інтелект відіграє в тому, щоб зробити атаки програм-вимагачів і фішингові схеми простішими та більш повсюдними, не втрачають керівники інформаційної безпеки та інші кіберлідери, які намагаються бути в курсі цієї швидкозмінної технології.
«Кіберуразливі місця стають демократизованими», — сказав Коллін Р. Волке, керівник практики кібербезпеки та конфіденційності даних юридичної фірми Hall Estill. Все більше і більше людей володіють можливостями хакерів, використовуючи такі речі, як програми-вимагачі як послуга та штучний інтелект, а для CISO та інших кіберлідерів швидке впровадження генеративного штучного інтелекту «надзвичайно змінює ландшафт загроз», — сказав він.
Наприклад, використання генеративного штучного інтелекту зробило фішингові атаки легшими та автентичнішими. «Раніше було так, що коли працівник отримував фішинговий електронний лист, було дещо легко визначити, що це підробка, тому що у формулюванні було щось не так», — сказав Волке. За допомогою генеративного штучного інтелекту неангломовний поганий актор може миттєво та майже бездоганно перекласти електронний лист будь-якою мовою, що ускладнить виявлення підробок для співробітників.
Але кіберексперти кажуть, що ті самі інструменти штучного інтелекту, які дозволяють хакерам рухатися швидше та з більшим масштабом, також доступні компаніям, які хочуть посилити свої можливості кібербезпеки. «Так, зловмисники можуть автоматизувати, але також можуть і захисники», — сказав Стівен Боєр, співзасновник і головний технічний директор фірми з управління кіберризиками BitSight. «Штучний інтелект робить поганого нападника більш досвідченим, але він також робить нормального захисника справді хорошим».
Боєр сказав, що ШІ дозволить інженерам, які пишуть код, автоматично перевіряти наявність уразливостей, що призведе до більш безпечного коду. «Зараз є інструменти, які роблять це, але штучний інтелект неймовірно пришвидшить це», — сказав він.
Фактично, використання штучного інтелекту для збільшення швидкості та масштабу кібербезпеки є однією з найбільших переваг, які експерти бачать у найближчій перспективі.
За словами Майкла Макнерні, головного спеціаліста з безпеки кіберстрахової компанії Resilience, використання технології для складних і трудомістких завдань стане величезною перевагою для CISO. «Інвентаризація всіх ваших пристроїв, усіх кінцевих точок і додатків дуже складна, трудомістка і, відверто кажучи, болюча. Я бачу майбутнє, в якому штучний інтелект допоможе CISO розібратися в ситуації та допоможе їм швидко й ретельно зрозуміти свою мережу», — сказав він.
Він додав, що оскільки велика частина кібербезпеки — це гігієна, використання штучного інтелекту для оптимізації завдань, які добре зрозумілі та дуже повторювані, мало б величезну цінність.
З усім тим, Волке та інші застерігають від самовдоволення зараз, коли деякі з найбільших компаній Кремнієвої долини беруть на себе обіцянку Байдена щодо захисту штучного інтелекту. «У нас все ще є багато людей у компаніях штучного інтелекту по всьому світу, які збираються продовжувати зловживати системою, які збираються продовжувати розвивати технологію без належних правових чи етичних правил».
У доступному для огляду майбутньому кіберексперти кажуть, що найкращим захистом компанії є «комплексний сценарій», коли CISO співпрацюють із радою директорів, головним спеціалістом із ризиків і генеральним директором, щоб визначити, як — і коли — розгортати штучний інтелект. організація. «Всього два місяці тому OpenAI зазнав зламу даних, тому, якщо вони вразливі, один CISO в компанії не зможе впоратися з ускладненнями та потенційними ризиками штучного інтелекту», — сказав Волке.
Тим часом важливо тримати ШІ та його потенційний вплив у контексті. «Ми перебуваємо на піку циклу ажіотажу, але я також вважаю, що це природно», — сказав Макнерні. «У нас є дуже захоплююча, дуже потужна нова технологія, яку мало хто справді розуміє. Я думаю, що протягом наступного року кіберлідери з’ясують, де ШІ дійсно корисний, а де ні».