На инвестиционном форуме США и Саудовской Аравии на этой неделе один известный магнат в области электрических автомобилей высказал свои мысли о том, куда могут нас привести ИИ и гуманоидные роботы. Его мнение? Мы можем двигаться к эпохе потрясающего изобилия — представьте ресурсы и возможности, превышающие все, что мы видели ранее.
Но есть и подводные камни. Вся эта концепция зависит от одной критически важной вещи: эти ИИ-системы должны быть спроектированы с учетом человеческих ценностей с самого начала. Не как дополнительная мысль, а встроенные в основу.
Это интересный угол. Пока все соревнуются в создании более умных машин, он подчеркивает, что "как" имеет такое же значение, как и "что". Если всё правильно согласовать, то выгода может быть огромной. Если ошибиться, то... ну, это разговор, который стоит вести.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
11 Лайков
Награда
11
4
Репост
Поделиться
комментарий
0/400
DuskSurfer
· 4ч назад
Говорить красиво — это одно, а действительно "впечатать" ценности — совсем другое. Сейчас много разговоров, но мало действий.
Посмотреть ОригиналОтветить0
GateUser-4745f9ce
· 4ч назад
Говорить красиво, но действительно ли можно достичь согласованности? Кажется, это всё еще хорошая мечта...
Посмотреть ОригиналОтветить0
MEVHunterWang
· 4ч назад
Ну этот парень прав, согласованность (alignment) действительно очень важна, иначе какое бы изобилие ни было, всё впустую.
Посмотреть ОригиналОтветить0
shadowy_supercoder
· 4ч назад
Сказано абсолютно верно, согласованность ценностей действительно является ключевым моментом, иначе даже самый умный ИИ — это просто бомба замедленного действия.
На инвестиционном форуме США и Саудовской Аравии на этой неделе один известный магнат в области электрических автомобилей высказал свои мысли о том, куда могут нас привести ИИ и гуманоидные роботы. Его мнение? Мы можем двигаться к эпохе потрясающего изобилия — представьте ресурсы и возможности, превышающие все, что мы видели ранее.
Но есть и подводные камни. Вся эта концепция зависит от одной критически важной вещи: эти ИИ-системы должны быть спроектированы с учетом человеческих ценностей с самого начала. Не как дополнительная мысль, а встроенные в основу.
Это интересный угол. Пока все соревнуются в создании более умных машин, он подчеркивает, что "как" имеет такое же значение, как и "что". Если всё правильно согласовать, то выгода может быть огромной. Если ошибиться, то... ну, это разговор, который стоит вести.