Изкуственият интелект трябва да се наблюдава внимателно: Брад Смит от Microsoft

Може да звучи като шега за мнозина, но до неотдавна страхът от изкуствения интелект, виждайки го като заплаха за човешката раса беше доста широко разпространена фобия. Всъщност вече го видяхме в този разговор в първия ни епизод от втория сезон на Captcha, в който видяхме как това е неоснователен страх.

Изглежда обаче, че не всеки го вижда по този начин и мнозина смятат, че Skynet или Matrix и машинната революция са точно зад ъгъла. Изкуственият интелект може да бъде заплаха и затова на GeekWire Summit 2019, президентът на Microsoft, Брад Смит, даде своята визия, донякъде песимистична за нея

Заплаха ли е изкуственият интелект?

Смит посочи причината за тази донякъде негативна гледна точка, самолетната катастрофа, станала в района на пролива Пуджет, при която самолет с пътници и екипаж претърпя инцидент поради автоматична система, която не можеха да деактивират от кабината, когато му дойде времето.

Софтуерът и неговата предпоставка бяха великолепни, тъй като той отговаря за откриването на излишък в наклона на самолета, ако е твърде висок, спускайки носа и съответно намалявайки височината. Проблемът е, че в този случай измерванията са неуспешни и кабинният екипаж не може да деактивира системата с последващия трагичен край.

"

Тази ситуация е извинение за Брад Смит, който се оправдава, че технологичното развитие е похвално, но винаги трябва да се контролираА в случая с изкуствения интелект и системите, които го включват, те трябва да имат вид паник бутон или авариен бутон, който им позволява да бъдат деактивирани."

И за протокола, това не е единственият случай. На по-земно ниво и много по-близо до огромното мнозинство потребители, имаме случаи на хора, прегазени от от автономни автомобили.

Става въпрос за гарантиране на предимството на човешките решения в определени моменти и при определени обстоятелства, при които вземането на решения от система, базирана върху изкуствения интелект не е толкова адекватен, колкото би трябвало да бъде.

Брад Смит не спря в този момент в своята критика към използването на изкуствения интелект такъв, какъвто го познаваме днес. Цялото общество и цялата индустрия трябва да осъзнаят пътя, по който вървят:

"

Видяхме как има дронове и бойни машини>Това е само част от проблема, което кара Смит да потвърди, че възможният риск от неконтролирано развитие на AI трябва да бъде проучен и автоматично обучение (машинно обучение). Всъщност вече видяхме подобно мнение от инженер на Google."

Това е сложен проблем. Разработването на ИИ, който в даден момент не може дори да управлява самите системи за контрол, наложени от хората. Пресичането на идеи и теории е на масата и ще даде много за обсъждане.

Източник | GeekWire