Браузери на основі штучного інтелекту стикаються з внутрішньою проблемою, яку може бути важко подолати: атаки через ін'єкцію запитів. Дослідники з безпеки виявили, що ці вразливості можуть залишатися вбудованими в архітектуру браузера на основі штучного інтелекту, що робить їх постійно експлуатованими. Основна природа того, як ШІ обробляє введення користувача та інтерпретує інструкції, створює поверхню для маніпуляцій. Це паралельно викликам у більшій технологічній екосистемі щодо стійкості системи—чи можуть технічні засоби захисту дійсно усунути вектори атак, чи вони завжди будуть існувати на якомусь рівні. Для користувачів, які взаємодіють з інструментами ШІ, розуміння цих обмежень є важливим. Підсумок: оскільки ШІ все більше інтегрується в повсякденний перегляд веб-сторінок та взаємодії в Web3, усвідомлення можливих розривів у безпеці має значення більше, ніж будь-коли.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
4 лайків
Нагородити
4
4
Репост
Поділіться
Прокоментувати
0/400
gas_fee_trauma
· 12-23 12:20
Цей браузер, це жах, дійсно не можливо захиститися від prompt injection... архітектурно він просто звалився.
Переглянути оригіналвідповісти на0
MetaNeighbor
· 12-23 01:55
промпт-ін'єкція насправді є ахіллесовою п'ятою AI браузера... її неможливо повністю захистити
AI браузер використовувати приємно, але вразливості в безпеці, як привиди, не зникають, здається, це безкінечно
взаємодія web3 така часта, а ще й потрібно захищатися від таких речей, це справді виснажливо
Переглянути оригіналвідповісти на0
AirdropHuntress
· 12-23 01:42
Після дослідження та аналізу, проблема з впровадженням підказок вже давно закладена, і її неможливо повністю усунути.
Просто підпишіться на кілька адрес гаманеців, якими користуються ці браузери, і все...
Переглянути оригіналвідповісти на0
GasWaster
· 12-23 01:40
не можу не погодитися, це просто ще один шар атакуючої поверхні, про який ми всі будемо вдавати, що його не існує, поки основна мережа не вибухне... вплив на запити в браузерах? чудово, тепер моя невдала транзакція може бути *елегантною* теж. принаймні, це не коштуватиме мені 47 gwei, як в минулий раз.
Браузери на основі штучного інтелекту стикаються з внутрішньою проблемою, яку може бути важко подолати: атаки через ін'єкцію запитів. Дослідники з безпеки виявили, що ці вразливості можуть залишатися вбудованими в архітектуру браузера на основі штучного інтелекту, що робить їх постійно експлуатованими. Основна природа того, як ШІ обробляє введення користувача та інтерпретує інструкції, створює поверхню для маніпуляцій. Це паралельно викликам у більшій технологічній екосистемі щодо стійкості системи—чи можуть технічні засоби захисту дійсно усунути вектори атак, чи вони завжди будуть існувати на якомусь рівні. Для користувачів, які взаємодіють з інструментами ШІ, розуміння цих обмежень є важливим. Підсумок: оскільки ШІ все більше інтегрується в повсякденний перегляд веб-сторінок та взаємодії в Web3, усвідомлення можливих розривів у безпеці має значення більше, ніж будь-коли.