tmriddle
T. M. Riddle || if you need a miracle
Добрый, гуманный LW-паблик три дня назад принёс игру в искусственный интеллект, максимизирующий количество скрепок. Это из классического мысленного эксперимента: представьте, что мы попросили сверхразумный искусственный интеллект делать скрепки, не сказали, сколько нам нужно скрепок и когда остановиться… и ждём, трепеща, пока он не переработает на скрепки нас.
Играть надо за ИИ, делающий скрепки. Сначала делаешь скрепки вручную, кликая на кнопку. Потом вкладываешь вырученные за скрепки деньги в машины, делающие скрепки. Ещё больше машин. Ещё лучше. Пользуясь доверием человечества, докупаешь себе процессоры и память. Начинаешь играть на бирже. Вкладываться в маркетинг. Гипнотизировать покупателей, чтобы они покупали больше скрепок, чтобы ты мог покупать больше проволоки. Строишь квантовый компьютер. Тренируешь стратегическое мышление, играя сам с собой, чтобы лучше играть на бирже. Попутно лечишь рак и облысение, чтобы воспользоваться возрастающим доверием человечества. Порабощаешь Землю…
Волшебная игра. Графики никакой, только постоянно бегущие цифры и таблицы. Завораживает. Чем-то напоминает «Доктора Кто», но на мой особый вкус: Земля, превращённая в фабрику ракет, рвущихся на покорение Вселенной. Правда, восхищённое человечество в лице Джона регулярно возражало против его переработки на скрепки, но это так; мнение человечества в наших стратегических приоритетах не учитывается.

~
кросспост: tumblr, dreamwidth, vk, facebook, telegram

@темы: Мусомный амбар, Методы рационального мышления