Роботите се учат на неподчинение
Идеята, че роботите трябва да се подчиняват на всяка човешка заповед, изглежда съвсем очевидна. Не така мислят обаче учените от Масачузетс, които се опитват да направят нещо, очаквано с нетърпение от научната фантастика: те учат роботи да казват „не“ на някои инструкции.
Когато става дума за потенциално опасни за хората инструменти, с които работят роботите на поточната линия в автомобилен завод, например, е ясно, че роботите трябва да правят точно това, за което са програмирани.
Всеки ден обаче се създават все по-умни роботи с повече възможности да решават сами какво да правят. Това води до трудния въпрос: как точно да програмирате робота да „премисля“ заповедите и да ги нарушава, ако прецени, че искането от вас е грешно или опасно за него, или за човека?
Именно върху това работя учените от Tufts University. Те са измислили поне една стратегия за интелигентен отказ от човешки заповеди. Стратегията напомня процесите на човешкия мозък, когато получаваме устни заповеди. Става дума за дълъг лист от въпроси за доверие и етика, които премисляме, когато ни накарат да направим нещо. Първият въпрос е „знам ли как да направя това“, продължаваме с въпроси като „трябва ли да направя това предвид работата ми“ и стигаме до „ако го направя, това нарушава ли някакви принципи на нормалното“. Ключова дума в последния въпрос е „нормално“, защото е нормално да не нараняваш хора и да не повреждаш неща.
Екипът от учени опростява този тип „вътрешен монолог“, който човек води, като го свежда до набор от логически аргументи, които софтуерът на робота може да разбере. Резултатът изглежда убедителен. Експерименталният андроид на екипа, например, казва „не“, когато е инструктиран да върви към стена, защото може лесно да се счупи, а човекът, който му подава тази заповед, се опитва да го подведе с потенциално опасна задача.
