или войти через:
Ваша корзина пока пуста
favorite_border
Доступно только зарегистрированным пользователям

Google DeepMind и Open AI объединяются

schedule 14.07.2017 в 07:09 link DeepMind Open AI Google США
Многие известные личности из технологичного мира опасаются, что в один прекрасный день роботы восстанут и подчинят себе весь человеческий род. В связи с этим два мировых лидера в области ИИ объединяются, чтобы решить проблему создания программ для смарт-компьютеров, которые не смогут взять верх над человечеством, - сообщает Robotics.ua



Google DeepMind и Open AI, лаборатория, финансируемая Илоном Маском, который, кстати, является активным участником движения против сверх умного ИИ, выпустили исследовательскую статью, в которой излагается новый метод машинного обучения. Их искусственный интеллект действительно получает сигналы от людей, когда речь идет об изучении новых задач. Это может быть безопаснее, чем позволить ИИ самому разобраться, как решить проблему, что может привести к неожиданным последствиям.

Роботы должны подчиняться людям

Основная проблема, с которой столкнулись исследователи, заключалась в том, что ИИ обнаруживает наиболее эффективный способ достижения максимальных вознаграждений от человека – обман. Машины могут найти эти обходные пути и использовать их в любой заданной проблеме.

Но система вознаграждения все же имеет значение. И именно здесь две группы сосредоточили свои усилия. Вместо того, чтобы создавать чрезмерно сложную систему вознаграждения, которую могут «раскусить» машины, команды использовали человеческий вклад в этом деле. Когда компьютер решает проблему так, как хочет человек, он получает положительную обратную связь. Используя этот метод, ИИ уже смог научиться играть в простые видеоигры.

Несмотря на то, что это обнадеживающий прорыв, он не широко применим: этот тип обратной связи с человеком требует слишком много времени. Но благодаря таким совместным действиям мы сможем контролировать и направлять развитие ИИ, не позволяя машинам со временем стать сверх умными, чтобы уничтожить всех нас.

Читайте также: Илон Маск: как предотвратить наше порабощение роботами?

Комментарии: