Міра змусила мене зрозуміти, що штучний інтелект може потребувати стійких систем, перш ніж він стане автономним

Я не починав думати про системи штучного інтелекту, тому що вважав, що ШІ недостатньо потужний. Насправді сучасні моделі дуже хороші. Що змусило мене задуматися про силу, — це щось Кожного разу, коли ШІ бере участь у чомусь, люди все ще залучені. Лікарі перевіряють діагнози. Аналітики підтверджують інсайти. Дослідники валідовують цитати. ШІ пропонує. Люди підтверджують. Цей патерн існує з певної причини. Сучасні системи ШІ розумні. Вони також слабкі. Одна неправильна заява, неправильний набір даних або тонка помилка у логіці може тихо вплинути на весь результат. Оскільки великі моделі генерують відповіді на основі ймовірності, ця невизначеність ніколи повністю не зникає. Саме тут мене почала зацікавлювати Mira. Спочатку вона здається проектом ШІ. Насправді вона намагається вирішити іншу проблему. Mira не про те, щоб зробити моделі розумнішими; вона про те, щоб зробити системи навколо них більш міцними. Залежність від однієї відповіді моделі Mira розбиває відповіді на менші фактичні твердження і поширює ці твердження через мережу незалежних валідаторів. Кожне твердження оцінюється окремо. Мережа приймає результат лише тоді, коли кілька валідаторів погоджуються. Як це зроблено, має значення. Замість того, щоб вважати ШІ єдиною розумною системою, Mira бачить її як розподілений процес міркування. Одна модель генерує відповідь. Інші оскаржують її. Консенсус визначає, що залишиться. Спочатку це здавалося, що покращить надійність. Чим більше я думав про це, тим більше відчував, що це щось глибше: сила. Міцні системи не припускають, що частини завжди будуть правильними. Вони припускають, що частини іноді можуть виходити з ладу. Інтернет працює саме так. Блокчейни працюють саме так. Розподілені бази даних працюють саме так. Збої очікувані, тому їхній дизайн передбачає їх обробку. ШІ ще не побудований саме так. Більшість продуктів ШІ все ще залежать від однієї моделі як джерела істини. Якщо модель зробить помилку, система не має способу її виявити. Mira змінює це. Перетворюючи виходи у твердження і перевіряючи їх через кілька незалежних моделей, система створює резервування. Навіть якщо одна модель неправильна, інші можуть її оскаржити. Остаточна відповідь стає ближчою до мережево підтверджених знань або передбачення однієї моделі. Саме це змусило мене зупинитися і задуматися. Бо автономія — це не лише інтелект. Вона потребує сили. Якщо агентам ШІ довірятимуть керувати системами, координувати інфраструктуру або допомагати у охороні здоров’я, система не може покладатися лише на рівень впевненості однієї моделі. Вона повинна мати спосіб виявляти та виправляти помилки, перш ніж ці помилки поширяться. Mira вводить цей механізм. Валідатори ставлять токени, перевіряють твердження. Отримують нагороди за чесну перевірку. Цей економічний рівень перетворює надійність у щось, що мережа активно підтримує, а не лише те, на що сподіваються розробники. Я усвідомлюю виклики. Мережі перевірки додають затримки. Деякі твердження важко оцінити. Вирівнювання стимулів у глобальній мережі валідаторів є складним. Що мене вражає — це філософія дизайну. Розробка ШІ зосереджена на тому, щоб робити моделі розумнішими. Mira зосереджена на тому, щоб зробити систему навколо ШІ більш стійкою до зломів. Цей підхід тихий, менш яскравий і важче просувати на ринок. Але якщо ШІ має перейти від ролі помічника до актора, справжнє питання буде не «наскільки розумна модель?» А «наскільки сильна система, коли модель помиляється?» Саме цей рівень, здається, Mira намагається побудувати. Якщо почати думати про ШІ саме так, сила починає виглядати як справжня вимога для автономії. $MIRA @mira_network #Mira