Добавяне
на некоректните ходове към дефиницията на AI
В [4] ние дефинираме AI, като
устройството, чието IQ е достатъчно високо.
Изчисляването на IQ става на базата на множество
от светове, като се взима средния успех на устройството за световете от това множество.
Световете, които се използват в [4] са генерираните от произволна машина на Тюринг (чиято
сложност не надвишава стойността на един параметър, който наричаме ниво на
интелигентност).
Множеството от тестовите светове, което сме използвали в [4] е така
избрано, че световете да бъдат максимално естествени и разбираеми. Целта не е
да затрудним устройството като го накараме да разбира неразбираеми светове, а
напротив да го улесним като направим тестовите светове максимално естествени и
разбираеми.
Един от проблемите в [4] е това, че там всички ходове са коректни. Тоест,
устройството, което дефинираме в [4] не знае какво е това некоректен ход и няма да може да се
справи в свят, в който част от ходовете са некоректни. Хубаво би било да
променим дефиницията от [4], така че тя да разрешава светове, в които има некоректни
ходове. От друга страна добавянето на некоректните ходове ще направи световете,
които сме избрали за тестови, да бъдат по-естествени и по-разбираеми.
Проблем в [4] са световете, които в даден момент зациклят. Щом света
се генерира от произволна машина на Тюринг, то тази машина може в определен
момент да зацикли. Тук проблемите са два: как да разберем, че машината е
зациклила и какво да направим след като разберем, че е зациклила. Първият проблем
в [4] го
решаваме простичко: Ако за 800 стъпки машината не върне резултат, ще считаме,
че е зациклила. Решението на първия проблем няма да променяме, но ще променим
решението на втория.
В [4], когато машината на Тюринг зацикля, ние я прекъсваме и рестартираме,
тоест запазваме това което е записано върху лентата, но променяме вътрешното й
състояние, така че следващото й състояние да бъде началното. Това решение не е
добро. Това е все едно да изключваме компютъра си като дръпваме щепсела, без да
се вълнуваме какво ще остане записано на харддиска. Подобно отношение към
компютъра може да направи неговото поведение твърде сложно и непрогнозируемо.
Прекъсвайки зациклящата програма ние излишно усложняваме света, който тя
генерира. По-добре би било след като я спрем, да кажем, че този ход е
некоректен и да върнем машината назад като възстановим информацията записана
върху лентата й до тази, която е била когато машината е започнала работа върху
този некоректен ход. По този начин това, че сме направили некоректен ход няма
да има никакво отражение на бъдещото, което ще се случи в съответния свят. По
този начин светът генериран от машината ще бъде много по-естествен и
по-разбираем.
Остана още един проблем. Възможно е произволната машина
на Тюринг да попадне в състояние (на лентата), при което всеки ход води до
зацикляне. Тоест, ще трябва да се откажем от изискването винаги да съществува
поне един коректен ход. Последното означава, светът да е такъв, че устройството
да не може „да умре“. В [4] ние вече се оказахме от изискването в света да няма
фатални грешки. По същата логика и по същите причини можем да се откажем и от
изискването устройството да не може „да умре“. Понятията „смърт“ и „фатална
грешка“ звучат като синоними, но ако погледнете как сме дефинирали тези
понятия, ще видите, че те са различни.
