За искусственным интеллектом нужно внимательно следить: Брэд Смит из Microsoft
Оглавление:
Многим это может показаться шуткой, но до недавнего времени страх перед искусственным интеллектом видел в нем угрозу человечеству была довольно распространенной фобией. На самом деле, мы уже видели это в этом разговоре в нашем эпизоде одного из второго сезона Captcha, в котором мы увидели, насколько это необоснованный страх.
Однако, похоже, не все так видят, и многие думают, что Скайнет или Матрица и машинная революция не за горами. Искусственный интеллект может представлять угрозу, и поэтому на саммите GeekWire 2019 президент Microsoft Брэд Смит изложил свое видение, несколько пессимистично оценивая его
Является ли искусственный интеллект угрозой?
Смит привел в качестве причины такого несколько негативного мнения авиакатастрофу, произошедшую в районе пролива Пьюджет, в которой самолет с пассажирами и экипажем потерпел аварию из-за автоматическая система, которую не смогли отключить из салона, когда пришло время.
Программное обеспечение и его предпосылка были великолепны, так как оно отвечает за обнаружение превышения наклона самолета, если он слишком высок, опускание носа и уменьшение высоты соответственно. Проблема в том, что в данном случае измерения не удались и бортпроводники не смогли отключить систему с последующим трагическим концом.
Эта ситуация была оправданием для Брэда Смита, который оправдывает, что технологическое развитие похвально, но всегда должно контролироватьсяА в случае искусственного интеллекта и систем, которые его включают, у них должна быть своего рода кнопка паники или аварийная кнопка, которая позволяет их деактивировать."
И, кстати, это не единственный случай. На более приземленном уровне и гораздо ближе к подавляющему большинству пользователей у нас есть случаи, когда людей сбивали беспилотные автомобили.
Речь идет о гарантировании приоритета человеческих решений в определенные моменты и при определенных обстоятельствах, при которых принятие решений системой основано об искусственном интеллекте не так адекватно, как должно быть.
Брэд Смит не прекратил на этом этапе своей критики использования искусственного интеллекта в том виде, в каком мы его знаем сегодня. Все общество и вся индустрия должны осознать путь, по которому они идут:
Мы видели, как появляются дроны и боевые машины>Это лишь часть проблемы, которая заставляет Смита утверждать, что возможный риск неконтролируемого развития ИИ должен быть изучен и автоматическое обучение (машинное обучение). На самом деле мы уже видели подобное мнение от инженера Google."
Это сложная задача. Разработка ИИ, который в данный момент не мог даже управлять самими системами управления, навязанными людьми. Пересечение идей и теорий лежит на столе и даст много тем для разговора.
Источник | GeekWire
