Томас Диеттерич, президент Ассоциации по улучшению искусственного интеллекта и почетный профессор компьютерных наук в Университете штата Орегон, сказал, что недавнее вложение в размере $ 10 млн Элон Маск в будущее Института Life поможет поддержать некоторые важные и необходимые усилия для обеспечения AI безопасности.
Но реальные риски не могут быть столь драматичным, как некоторые люди их визуализируют, сказал он.
"В течение долгого времени риски искусственного интеллекта, обсуждались в нескольких небольших, академических кругах, а теперь они получают какое-то давно запоздалое внимание," сказал Dietterich. "Это внимание и финансирование, чтобы поддержать, это очень важный шаг."
"Мы сейчас говорим о том, что делаем некоторые довольно сложные и интересные вещи с ИИ, такие как автомобили, которые управляют самостоятельно сами собой, или роботов, которые могут повлиять спасает или убивает оружие", сказал Dietterich. "Это задачи с высокими ставками, которые будут зависеть от чрезвычайно сложных алгоритмов.
"Самый большой риск в том, что эти алгоритмы не всегда могут работать", добавил он. "Мы должны осознавать этот риск и создавать системы, которые все еще могут функционировать безопасно, даже если компоненты AI совершить ошибки."
Dietterich заявил, что считает машины с искусственным интеллектом, которые пытаются уничтожить людей, это больше из области научной фантастики, чем научный факт. Но по этой же причине, компьютерные системы могут привести к большим проблемам, и попросил, чтобы все поделились опытом, чтобы его можно было интерпретировать, он говорит, что они могут просто ошибаться.
"Компьютерные системы уже могут обыграть людей в шахматы, но это не означает, что они не могут сделать неправильный шаг", сказал он. "Они могут рассуждать, но это не означает, что они всегда получают правильный ответ. И они могут быть сильными, но это не то же самое, когда говорят, что они будут развиваться сверхдержавы».
Более непосредственные и реальные риски, по его словам, необходимо определить, какие могут произойти ошибки, и как создать системы, которые могут помочь справиться со сведениями о рисках и свети их к минимуму.
Непосредственная угроза от компьютеров, это вредоносный код, Dietterich говорит, и будет, возникать в результате кибератак . Люди с злым умыслом, используя искусственный интеллект и мощные компьютеры для атак на другие компьютерные системы - это реальная угроза, отметил он, и, таким образом, было бы хорошо, чтобы все сосредоточились на работах в этой области.
Эта работа должна получить значительную поддержку от недавнего гранта, Dietterich сказал, что будет содействовать проведению исследований по всему миру с помощью открытого конкурса грантов.
Предоставлено: Университетом штата Орегон