Дали можеби на човечкиот род му се заканува опасност од премногу интелигентните роботи? Научниците неодамна се обидоа да одговорат на ова прашање.

Робот кој може да отвори врата и самиот да си најде електричен приклучок за да се наполни. Компјутерски вируси кои никој не може да ги запре. Беспилотни предатор летала, кои сеуште може да бидат контролирани, се блиску до машина која самата може да убива кога и каде сака.

Импресионирани од напредокот на вештачката интелигенција, група компјутерски научници дебатира за тоа дали треба да се постави граница во истражувањата кои може да доведат до губење на човечката контрола врз компјутерските системи. Компјутерите денес го контролираат севкупниот општествен сегмент, почнувајќи од водењето војни, па се до разговори со муштериите преку телефон.

Нивната грижа е дека понатамошниот прогрес на вештачката интелигенција може да создаде длабоки социјални пореметувања и да има опасни последици.

Како примери научниците ги посочуваат бројните технологии како експерименталните медицински системи кои се во интеракција со пациентите за да симулираат емпатија, како и комјутерските црви и вируси кои не можат да се уништат.

Додека комјутерските научници се согласуваат дека сме далеку од Хал, компјутерот кој го превзеде вселенскиот брод во филмот “2001: Одисеја во вселената,” велат дека постои  оправдана загриженост дека технолошкиот напредок ќе ја трансформира работната сила преку уништувањето на широкиот опсег на работни места, како и дека ќе ги присили луѓето да научат да живеат со машини кои се повеќе го копираат човечкото однесување.

Истражувачите - водечки компјутерски научници, научници за вештачка интелигенција и роботичари, се собраа на конференциските терени на Асиломар во Монтереј Беј во Калифорнија. Притоа, ја отфрлија можнста за високо централизирана суперинтелигенција и идејата дека интелигенцијата може спонтано да се прошири преку Интернет. Но, се согласија дека роботите кои може автономно да убиваат веќе се тука или наскоро ќе бидат.

Особено внимание обратија врз претпоставката дека криминалците би можеле да ги злоупотребат системите за вештачката интелигенција уште од моментот кога ќе се откријат. Што би можел да направи криминалот со систем за синтеза на говорот кој може да звучи идентично како човечки глас? Што се случува ако вештачката интелигенција се искористи за “прекопување” по лични информации од смарт телефоните?

Истражувачите дискутираа и за можните закани за работните места на луѓето, како автомобили кои сами се управуваат, лични асистенти базирани на софтвер и роботи-куќни помошници. Пред околу еден месец, робот-помошник дизајниран од Вилоу Гарејџ во Силикон Вејли докажа дека може самиот да се движи и функционира во реалниот свет, без никакви команди од страна.

Конференцијата беше организирана од Асоцијата за унапредување на вештачката интелигенција, а го одбра Асиломар како место за дискусиите. Во 1975, водечките светски биолози исто така се сретнаа во Асиломар да расправаат за новата способност да го реструктуираат живиот свет со замена на генетскиот материјал помеѓу организмите. Средбата за иднината на вештачката интелигенција беше организирана од Ерик Хорвиц, истражувач на Мајкрософт кој сега е претседател на здружението.

Др. Хорвиц верува дека компјутерските научници мора да одговорат на идејата на суперинтелигентните машини и системите со вештачка интелигенција.

Идејата за “интелигентна експлозија” во која паметните машини би дизајнирале дури и поинтелигентни машини беше предложена од математичарот И. Џ. Гуд во 1965. Подоцна, во предавањата и научно-фантастичните романи, компјутерскиот научник Вернор Винџ ја популаризираше идеата за моментот кога човекот ќе создаде машини попаметни од него, предизвикувајќи толку брзи промени што “ерата на човекот ќе заврши.” Тој промената ја нарекол “Единственост”.

Оваа визија, содржана во филмовите и литературата, некои научници како Вилијам Џој, коосновач на Сан микросистеми, ја гледаат како веродостојна и обесхрабрувачка. Други технолози, особено Рејмонд Курзвејл, го преувеличуваа доаѓањето на паметните машини, велејќи дека тие ќе овозможат продолжување на животот и нови начини за збогатување на луѓето.

Верзијата за технолошка утопија на Курзвејл ги освои слушателите во Силикон Вејли. Ова лето, организацијата наречена Универзитет на Единственоста започна да нуди курсеви за да подготви “кадар” кој ќе ги развива успесите на вештачката интелигенција и ќе му помага на општеството да се справи со последиците.

“Чувствував дека порано или подоцна ќе моравме да дадеме одредена изјава или процена, со оглед на тоа дека технолозите и луѓето се многу загрижени за издигнувањето на интелигентните машини,” вели д-р Хорвиц.

Здружението за унапредување на вештачката интелигенција соопшти дека ќе се обиде да ја процени можноста за “губење на човековата контрола над комјутерската интелигенција.” Исто така ќе се справува и со социоекономиката, правните и етичките проблеми, како и со можните промени во врската човек-компјутер, вели д-р Хорвиц. Како би било, на пример, да се поврзете со машина која е исто интелигентна како вашиот  брачен другар?

Д-р Хорвиц вели дека комисијата бараше начини да го води истражувањето така што ќе покаже дека технологијата може да го унапреди општеството, а не да го води кон технолошка катастрофа. Некои истражувања, на пример, би можеле да се спроведат во лабаратории со висока сигурност.

Средбата за вештачка интелигенција би можела да биде од големо значење за иднината на ова поле. Пол Берг, кој беше организатор на средбата во Асиломар во 1975 и ја доби Нобеловата награда за хемија во 1980, вели дека беше важно за научните здруженија се ангажираат на ова поле.

“Ако предолго чекате и ако страните се утврдат како кај генетски модифицираните организми,” вели тој, алудирајќи на генетски модофицираната храна, “тогаш е многу тешко. Толку е комплексно што луѓето зборуваат без вистински да се разберат.”

Том Мишел, професор по вештачка интелигенција и учење на машините на Карнеги Мелон Универзитетот, вели дека оваа средба го промени неговото мислење. “Станав голем оптимист за иднината на вештачката интелигенција и сметам дека Бил Џој и Реј Кузвејл беа далеку од своите предвидувања,” вели тој. Но, додаде, “Средбата ме натера да бидам отворен за овие прашања, а особено да бидам со отворен ум за огромните количества на собрани податоци за нашиот личен живот.”

Д-р Хорвиц вели дека се надеваше дека истражувањето на вештачката интелигенција ќе има придобивки за луѓето, а можеби дури и ќе компензира за човековите пропусти. Неодамна, тој демонстрираше систем базиран на глас кој ги прашува пациентите за нивните симптоми и одговара со емпатија. Кога мајката вели дека нејзиното дете има диареја, лицето на екранот вели, “О не, жал ми е што го слушам тоа.”

Еден физичар подоцна му рекол дека е чудесно како системот одговара на човековите емоции. “Тоа е одлична идеја,” му било речено на д-р Хорвиц. “Јас немам време за тоа.”