Ученые нашли способ предотвратить конец света из-за роботов


Ученые нашли способ предотвратить конец света из-за роботов


Ученые в последнее время занимались разработкой специальной платформы, которая может создавать алгоритмы. С помощью данных алгоритмов получить в будущем предотвратить опасное поведение роботов с искусственным интеллектом и они не смогут навредить человечеству, сообщает портал Новости Планеты со ссылкой на издание Science Alert.

Специалисты называют алгоритм селдоновским. При этом ученые не предоставляют искусственному интеллекту понимание того, что именно является хорошо и что можно отнести к морально-этическим нормам. При этом система сможет определить, какое именно поведение является неприемлемым. Система сделает все от нее зависящее, чтобы не допустить такого поведения.






Эксперты в качестве примера привели использование разработанных алгоритмов в лечении сахарного диабета. В этом случае инсулиновая помпа контролируется с помощью автоматической системы. Нежелательным поведением в примере выступает низкий уровень инсулина.

Стоит отметить, что Лара Нолан, в прошлом месяце заявила о том, что оружие, обладающее искусственным интеллектом, которое может самостоятельно принимать определенные решения, за несколько секунд сотрет с лица земли целые города. Если в одном районе будет находиться несколько систем, то они сразу же среагируют друг на друга, что может спровоцировать развитие «внезапной войны».


Понравилась статья? Поделиться с друзьями: