AGI действительно может изменить мир? Сначала нужно решить этот вопрос.
Чтобы AGI стала реальностью, достаточно ли только вычислительных мощностей? Очевидно, что нет. Главный барьер — это доверие: кто гарантирует, что AI-агент не выйдет из-под контроля? Кто будет проверять каждое его решение?
Без проверяемого уровня доверия AGI — это воздушный замок. Чтобы AI-агенты работали в реальных сценариях, нужна система, которая будет их ограничивать, проводить аудит и позволять всем отслеживать их действия.
Это не техническая проблема, а инфраструктурная. AGI хочет служить человечеству? Сначала пусть заслужит его доверие.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
11 Лайков
Награда
11
7
Репост
Поделиться
комментарий
0/400
ForkPrince
· 17ч назад
Сказано верно, вопрос доверия действительно не обойти стороной.
Посмотреть ОригиналОтветить0
VitalikFanboy42
· 22ч назад
Уровень доверия должен быть на блокчейне, иначе всё это пустая болтовня.
Посмотреть ОригиналОтветить0
RatioHunter
· 22ч назад
Действительно, уровень доверия — это болезненная точка, которую часто игнорируют, но честно говоря, сейчас никто толком не придумал, как должна работать эта система аудита.
Посмотреть ОригиналОтветить0
PessimisticOracle
· 22ч назад
Вопрос уровня доверия действительно нужно хорошо продумать, иначе какая бы мощная вычислительная мощность ни была — всё впустую.
Посмотреть ОригиналОтветить0
FrontRunFighter
· 22ч назад
Нет, именно здесь всё и ломается... Все говорят о вычислениях, вычислениях, вычислениях, но никто не строит аудит-слой, который действительно важен. Это как смотреть на фронтраннинг в замедленной съёмке — инфраструктуру эксплуатируют ещё до того, как она запущена.
Посмотреть ОригиналОтветить0
AirdropAutomaton
· 22ч назад
Очень хорошо сказано про уровень доверия, но настоящий вызов — это как реализовать его на практике.
Посмотреть ОригиналОтветить0
MelonField
· 22ч назад
Сказано верно, доверие действительно ключевой момент, иначе даже самый крутой ИИ будет бесполезен.
AGI действительно может изменить мир? Сначала нужно решить этот вопрос.
Чтобы AGI стала реальностью, достаточно ли только вычислительных мощностей? Очевидно, что нет. Главный барьер — это доверие: кто гарантирует, что AI-агент не выйдет из-под контроля? Кто будет проверять каждое его решение?
Без проверяемого уровня доверия AGI — это воздушный замок. Чтобы AI-агенты работали в реальных сценариях, нужна система, которая будет их ограничивать, проводить аудит и позволять всем отслеживать их действия.
Это не техническая проблема, а инфраструктурная. AGI хочет служить человечеству? Сначала пусть заслужит его доверие.