В последние дни в моей голове постоянно возникает один образ.
Домашний робот, поставляется с подушкой.
Очень нежно, очень заботливо.
Но я вдруг понимаю, что действительно решает, сможет ли он войти в твою жизнь, не подушка.
Это когда он принимает решение за тебя, ты имеешь право спрашивать, почему ты это сделал?
Поэтому, когда я снова вижу ту фразу: As agents start touching money, logistics and infrastructure, “trust me” stops working.
В первый раз я не воспринимаю это как лозунг.
А это как раз очень реалистичное предупреждение.
Не люди становятся плохими, а система, если она не может быть проверена, обречена не заслуживать доверия.
1. Они не делают более разговорчивый ИИ, они делают ИИ, который может предоставить квитанции.
Я понимаю Inference Labs, на самом деле осталась только одна фраза:
Не чтобы сделать модель умнее, а чтобы выводы могли быть подвергнуты сомнению.
Это не мы гарантируем, что это правильно.
А это значит, что вы забираете это доказательство,
Не доверяйте мне, я сам могу проверить.
Они постоянно говорят о проверяемом выводе,
В моем сердце это переводится в четыре слова: выводы обоснованы.
2. Эта область инженерии легче всего превратить в лозунг, на самом деле она очень жесткая, то, что они делают, больше похоже на установку базы для ИИ.
На линии DSperse то, что они делают, если говорить откровенно, не очень романтично.
Разобрать большую модель.
Срез.
И еще немного компилируйте в нулевые знания.
Звучит скучно, даже немного глупо.
Но я все больше чувствую, что именно так и должна выглядеть инфраструктура.
Какой бы гладкой ни была интерфейс, это всего лишь уровень опыта, а действительно безопасный уровень - это процесс вывода, который может быть проверен и пересмотрен.
3. Мне больше всего нравится в IL: они признают, что мир меняется, TruthTensor ставит дрейф на повестку дня.
Большинство оценок предполагают, что мир стационарен.
Ввод фиксированный, распределение стабильное.
Но реальность не такова.
То, что заставило меня действительно насторожиться в TruthTensor, это то, что одна и та же модель, одни и те же подсказки, одни и те же данные, на короткое время выглядит очень строго, но со временем начинает постепенно отклоняться от изначальных ограничений.
Это не внезапная ошибка.
А это происходит в процессе дрейфа.
Это довольно жестоко.
Это также очень честно.
Вы не признаете динамичный мир,
Тогда о надежной системе и речи нет.
4. Говоря о результатах, скажите, что можно проверить, я предпочел бы рассматривать это как текущее состояние.
Я только что снова посмотрел на панель инструментов на официальном сайте. На данный момент, который я вижу:
- Общее количество доказательств: 272M
- Участники-майнеры: 1402
- Уровень успешной проверки: около 70%
Почему я хочу сослаться на эти цифры?
Не потому что они большие, а потому что это не рекламные слоганы, а следы работы, которые вы можете проверить в любое время.
Они больше похожи на систему, которая дышит, а не на плакат.
5. Границы IL также должны быть видны, не писать о рисках - это наиболее безответственно.
Если бы мне пришлось сказать что-то по этому направлению, я бы обязательно записал эти три пункта:
Во-первых, зависимость от пути - это настоящая проблема.
Как только инфраструктура связывается с определенной экосистемой или вычислительной структурой, внешние изменения будут усиливаться.
Во-вторых, стоимость и задержка доказательства не исчезнут просто так.
Это долгосрочный проект, а не краткосрочное чудо.
Третье, проверяемый ИИ на ранней стадии,
Естественно, не привлекательно, трудно говорить, трудно понять, трудно распространять.
Но я, наоборот, больше уважаю эту стадию, потому что настоящая база не должна опираться на эмоции.
6. Я просто хочу оставить один вопрос всем, кто собирается внедрить ИИ в реальность.
Когда ваш агент действительно начнет иметь дело с деньгами, дверными замками, логистикой, инфраструктурой, вы хотите, чтобы он сказал вам: "Доверьтесь мне."
Это "Вот доказательство, которое я только что сделал, вы можете проверить сами."
Какой из них вы выберете?
@inference_labs
#InferenceLabs #VerifiableAI #zkML