Многие люди при использовании ИИ сталкивались с замкнутым кругом: задали вопрос — получили ответ — поверили. Мало кто действительно понимает логику за этим — как формируются такие выводы? Какие модели используются? Были ли они изменены по пути?
Эта проблема "черного ящика" всегда присутствовала. Некоторые проекты идут против этого — вместо того чтобы рассказывать о "умных возможностях ИИ", они сосредотачиваются на более глубоком вопросе: "Как думает ИИ". OpenGradient занимается именно этим — он не фокусируется на выразительных способностях ИИ, а на прослеживаемости и прозрачности решений ИИ. Такой подход в экосистеме считается новым направлением.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
5 Лайков
Награда
5
3
Репост
Поделиться
комментарий
0/400
SerumSquirrel
· 12ч назад
Черный ящик — это тема, о которой говорили столько лет, и наконец-то кто-то действительно собирается заняться этим. Не потому, что AI так круто, а потому что раскрывать алгоритмы — вот что действительно важно.
Посмотреть ОригиналОтветить0
RunWithRugs
· 13ч назад
Черный ящик действительно отвратителен, кто знает, действительно ли AI хочет этого или просто врет... Направление OpenGradient хорошее, кто-то должен осмелиться прорвать эту оболочку.
Посмотреть ОригиналОтветить0
LiquidityNinja
· 13ч назад
Черный ящик AI — это налог на интеллект, кто вообще заботится о процессе рассуждения... Идея OpenGradient неплохая, но реализуема ли она?
Многие люди при использовании ИИ сталкивались с замкнутым кругом: задали вопрос — получили ответ — поверили. Мало кто действительно понимает логику за этим — как формируются такие выводы? Какие модели используются? Были ли они изменены по пути?
Эта проблема "черного ящика" всегда присутствовала. Некоторые проекты идут против этого — вместо того чтобы рассказывать о "умных возможностях ИИ", они сосредотачиваются на более глубоком вопросе: "Как думает ИИ". OpenGradient занимается именно этим — он не фокусируется на выразительных способностях ИИ, а на прослеживаемости и прозрачности решений ИИ. Такой подход в экосистеме считается новым направлением.