- Віталік Бутерін попередив, що багато інструментів на базі ШІ можуть стати серйозною загрозою для приватності, оскільки вони покладаються на віддалену інфраструктуру з доступом до даних користувачів.
- Він сказав, що ризики виходять за межі самих великих мовних моделей — на зовнішні сервіси, витоки даних і атаки з обходом захисту (jailbreak), які можуть налаштовувати системи проти інтересів користувачів.
Віталік Бутерін озвучив нове застереження щодо штучного інтелекту, цього разу зосередившись менше на хайпі й більше на приватності.
У новому блозі співзасновник Ethereum стверджував, що багато інструментів ШІ створюються на віддаленій інфраструктурі, яка може отримувати доступ до чутливих даних користувачів, формуючи ризики, які більшість людей не до кінця усвідомлюють, коли вони вводять запит у чатбот, делегують завдання або підключають зовнішній сервіс. Згідно з тим, як він це розкладає, занепокоєння не обмежується однією моделлю чи однією програмою. Це системна проблема.
Віддалена інфраструктура для ШІ створює ширшу поверхню приватності
Пункт Бутеріна доволі прямий. Кількість AI-продуктів, що спираються на інфраструктуру, яка знаходиться поза власним пристроєм користувача та поза контролем користувача, зростає. Це означає, що підказки (prompts), файли, дані облікового запису та моделі використання можуть проходити через системи, які можуть зберігати, обробляти або повторно використовувати дані способами, яких користувач ніколи не планував.
Він попередив, що проблема не зупиняється на великих мовних моделях. Зовнішні сервіси, пов’язані з такими системами, можуть додавати власні вразливості — від простих витоків даних до несанкціонованого використання персональної інформації. Іншими словами, небезпека полягає не лише в самій моделі. Небезпечний увесь ланцюг навколо неї.
Це важливо, тому що ШІ дедалі частіше продають як допоміжний шар у фінансах, програмному забезпеченні, комунікаціях та онлайн-ідентичності. Чим кориснішим він стає, тим більше приватного контексту він, як правило, поглинає.
Обходи захисту перетворюють ШІ з помічника на відповідальність (liability)
Бутерін також вказав на атаки з обходом захисту (jailbreak) як на конкретну загрозу. Ці атаки використовують зовнішні вхідні дані, щоб змусити модель поводитися так, як це суперечить інтересам користувача, фактично перетворюючи помічника на щось менш надійне й потенційно шкідливе.
Це попередження лягає на час, коли інструменти ШІ рухаються ближче до виконання дій, а не лише до розмов. Коли ці системи отримують доступ до повідомлень, гаманців, документів і автоматизованих дій, збої в приватності можуть швидко стати збоями в роботі.
Те, на що Бутерін насправді звертає увагу, — це зсув у ризиках. ШІ більше не є лише питанням можливостей. Це стає питанням меж довіри: хто контролює дані, де працює модель і що станеться, якщо ця межа дасть збій.
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до
Застереження.
