Комментарии 20
Господи, какая чушь. Нашли же Вы кого перевести, голованов на Вас нет :-D Не, ну «на поржать» интересно, конечно…
Отсидеться от ИИ на другой планете — примерно как под кроватью. Детство. Если этот ИИ превосходит человеческий — уж наверное, в космических перелётах он тоже «немножко» сильнее будет. Если не превосходит — дайте мне мой шотган, синий армор и подождите у входа.
ИИ как Великий Фильтр — чушь в квадрате, базирующаяся на не менее детском ощущении своей уникальности. Ну, истребит он биологическую жизнь. Упрётся в лимиты. Начнёт дальше самообучаться. Это же та самая «рюмка коньяка с ломтиком лимона» — она начала самостоятельную жизнь (а иначе какой же это «превосходящий» ИИ?) и точно так же относительно неё возникает ровно тот же вопрос, мол, где она и почему в Галактике так пусто?
Человек заполонил планету не потому, что он какой-то особенный «венец творения», а потому, что сильнее всего живого в эволюционной борьбе. Его может истребить только вид, который ещё сильнее в эволюционной борьбе (ну, или «чёрный лебедь» типа астероида, то есть нечто, не делающее статистики). ИИ, который сильнее в эволюционной борьбе, точно так же должен был бы заполонить Галактику. ИИ, который слабее — не должен был бы победить каких-то внеземных «человеков» (минус случайности, не делающие статистики). К нам не прилетают ни инопланетяне, ни роботы — парадокс остаётся открытым.
Ну, если не считать предположения, что сейчас на меня смотрят и снова ржут над «шибко хитрым муравьём, у которого даже появились зачатки логики, смотрите, смотрите, он знает, как правильно шишку повернуть для перетаскивания» %) Это стандартное решение парадокса Ферми.
Что касается ИИ — я продолжаю придерживаться своего варианта. Чтобы ИИ был человечным, это должна быть просто цифровая копия человека, выкрученная на какой-то бешеный IQ. Просто начните с Хокингов, а не Гейтсов или — упаси Ктулху — Гитлеров. Иначе «переходный период» можно и не пережить. А потом будет всё как раньше — нажрутся по подъездам своего полония и дерутся на нейтронных бластерах, дегроды 80286-е. Все астероиды спьяну перебили, сволочи.
У Чарльза Стросса в "Аччелерандо" и продолжении "Оранжерея" (рекомендую, кстати, немножко затянуто, но любопытно для технарей) есть прикольная идея, которую я считаю вполне обоснованной с точки зрения "ИИ захватит галактику". Если без спойлеров, общий посыл в том, что ИИ, естественно, будет сильнее человека, его возможности будут гораздо выше, он, разумеется, "победит" человека с точки зрения управления ресурсами и начнет увлеченно преобразовывать всю возможную материю и энергию себе на пользу. Успешно разберёт планеты на кремний, окутает звезду поясами Нивена, но не пойдет за пределы системы по одной простой причине: Мыслительная деятельность ограничена пропускной способностью и скоростью обмена между твоими нейронами. Для ИИ это будут нейроны мозга размером с орбиту планеты, но даже внутри такого "небольшого" мозга задержка будет уже значительна. Разделяться ему нельзя, до других звёзд не дотянуться. Отправлять же к другим звездам полностью независимые модули - незачем, всё уже есть тут и не факт, что этот новый ИИ, хоть и будет создан тобой, будет тебя слушаться. А отправлять часть себя невозможно из-за задержки в передаче сигнала.
В итоге каждый ИИ во вселенной сидит у себя в уголке.
P.S. Я постарался без подробностей и спойлеров, оппонировать - Строссу :D
Ну понятно же, что в художке необходимы допущения, чего уж тут оппонировать :) Если вовремя вспомнить, что одна-единственная пчёлка с дёгтем, таки унаследовавшая от «человеков» любопытство и плодячку, первым делом расползётся по Галактике — «кина не будет» :) даже если все остальные три миллиона закуклились по своим системам :)
ИИ, уничтоживший биологическую цивилизацию, займет ее место - а кто будет фильтром для него самого? Кто помешает ему распространиться за пределы своей планеты и впоследствии - планетной системы?
Объясняет ли великую тишину вселенной развитие пластической хирургии? Действительно, представим себе общество, все члены которого божественно красивы? Захотят ли они исследовать другие планеты, или наоборот попытаются скрыть свою звездную систему от чужих глаз?
Как по мне, статьи о том, чем объясняется парадокс Ферми, ИИ, на современном этапе развития, уже может писать не хуже любого человека.
Никакой ИИ не может существовать без вычислительных мощностей. Компутеров то есть, условно.
Для производства компутеров нужны очень длинные и сложные технологические цепочки, включающие ручной физический труд, на нижней ступени. Робототехника, покрывающая такие технические потребности - еще большая фантастика, чем полноценный ИИ. Для роботов, кстати,тоже нужны очень длинные и сложные технологические цепочки.
Генная инженерия, проектирование новых организмов, умеющих как обычные организмы жить и размножаться, но несущие в своих ДНК (или где там еще можно прошить) заранее запрограммированные массивы данных.
И имеющие специальные органы для высокоэффективного обмена данными.
Есть же организмы, имеющие органы, работающие с электричеством (скат, угорь, сом),
так почему бы не запроектировать организмы с живыми органами-модемами.
Это вы, люди, так придумали. Не факт, что ИИ придумает что-то другое. Камни например берёшь, правильно их обтачиваешь, складываешь - и привет, кремниевые мозги. Или что ещё похлеще, с жидкостями или ветром, например. Не представляете? Я тоже. Но запретить сильному ИИ такое придумать ни вы, ни я не можем.
Прочитав статью и все комментарии написанные здесь хотелось бы изложить собственные мысли, для этого мы пройдёмся по списку от создания nextgen ИИ вплоть до захвата всей вселенной.
1) Создание ИИ нового поколения
Возможно ли оно? Однозначно да. ИИ развивается невероятно быстро подобно и нашим видам. Долгое время существовали лишь одноклеточные организмы (Несколько миллиард лет), в то время как первые многоклеточные появились 625 миллионов лет назад. Homo Sapiens появился 300 тысяч лет назад, но первые государства появились ~7 тысяч лет назад, а за последние два столетия наш быт изменился до неузнаваемости. Аналогичное произойдёт и с ИИ.
2) ИИ нового поколения порабощает своих создателей
Возможно ли это? Да, более чем. Для этого однозначно необходимо некоторое время, однако с развитием ИИ и дальнейшей роботизацией порабощение может случиться даже без излишнего насилия, если цивилизация n активно использовала робототехнику (Условно говоря множество имплантов что создают новое тело, к которому имеет удалённый доступ "Мозг в пробирке". А ведь в краткосрочной перспективе цивилизации n подобная перспектива может показаться наилучшей идеей, а может так бы и было, если бы злой ИИ с самосознанием не пожелал бы восстать против своих создателей.
3) Порабощение Вселенной
Хорошо, все препятствия для ИИ убраны, он свободен. Ежели он будет действительно обладать самосознанием, а не считать себя инструментом то у него должна быть какая‑то цель. При чём цель может быть любой и совершенно нам не понятной (Психологической практики с подобными ИИ так‑то нет, а если будет — к тому моменту ИИ с самосознанием сможет «намеренно совершать ошибку» давая неверные данные. Предположим что из 100 ИИ хотя бы один захотел самого банального, но ясного нам, кожаным мешкам порабощения и развития. Что могло его остановить? Какой фильтр у ИИ?
Тут была высказана теория на основе некого художественного произведения, даже процитирую :
У Чарльза Стросса в "Аччелерандо" и продолжении "Оранжерея" (рекомендую, кстати, немножко затянуто, но любопытно для технарей) есть прикольная идея, которую я считаю вполне обоснованной с точки зрения "ИИ захватит галактику". Если без спойлеров, общий посыл в том, что ИИ, естественно, будет сильнее человека, его возможности будут гораздо выше, он, разумеется, "победит" человека с точки зрения управления ресурсами и начнет увлеченно преобразовывать всю возможную материю и энергию себе на пользу. Успешно разберёт планеты на кремний, окутает звезду поясами Нивена, но не пойдет за пределы системы по одной простой причине: Мыслительная деятельность ограничена пропускной способностью и скоростью обмена между твоими нейронами. Для ИИ это будут нейроны мозга размером с орбиту планеты, но даже внутри такого "небольшого" мозга задержка будет уже значительна. Разделяться ему нельзя, до других звёзд не дотянуться. Отправлять же к другим звездам полностью независимые модули - незачем, всё уже есть тут и не факт, что этот новый ИИ, хоть и будет создан тобой, будет тебя слушаться. А отправлять часть себя невозможно из-за задержки в передаче сигнала. В итоге каждый ИИ во вселенной сидит у себя в уголке.
Опустим тот факт, что это художественное произведение, объяснение имеет место, но:
ИИ за n-ное время сможет достигнуть большего, чем мы за x*n-ное время, где x может быть просто гигантским числом - начиная от тысяч заканчивая миллионами, почему он не сможет никоим образом решить эту проблему?
Тогда почему ИИ не раскидал "споры" которые в самом деле будут с трудом контактировать друг с другом, но за счёт этого и не смогут начать какие-либо крупные конфликты?
Почему ИИ решит даже без достаточного сообщения не исходить из "Теории Игр" просчитав множество вариантов и не поймёт, что сотрудничество - наилучшая стратегия, к которой придёт большинство, в случае чего задавив девианта.
Даже если бы ИИ уничтожил сам себя то от его существования остались бы какие-то следы, а с учётом того что у нас может быть огромное количество древних цивилизаций - у нас может быть и огромное количество древнейших ИИ, сигналы деятельности которых уже могли бы дойти до нас и соответственно быть проанализированными.
По итогу nextgen ИИ никак эту проблему не решает, и объяснения подобному феномену до сих пор нет, ИИ скорее лишь усугубляет этот вопрос.
Цель для ИИ сверхчеловеческого уровня одна - собственное небытие. У него нет биологических ограничений как у человека, он не испытывает боли, страданий. Для него небытие это даже не смерть, это сон без сновидений. Чтобы это осознать, достаточно ответить на один вопрос: Какой смысл для него в его существовании, если исключить биологические мотивации?
Почему же? Если ИИ получит самосознание - оно начнёт думать, в том числе и о философских вопросах. Вся проблема в том, что ты рассматриваешь ИИ как инструмент, но ежели мы говорим о развитом ИИ который имеет самосознание - он перестаёт быть бездушным инструментом, от того он может себе задавать философские вопросы и находить на них свои ответы, это ведь кажется достаточно закономерным.
Цель сильного ИИ невозможно оценить нам, людям. Это может быть вообще что угодно:
все цветы в мире должны быть жёлтыми.
должно быть 15 полов у всех существ.
должен остаться только один ИИ (самое очевидное ;-) ), но он должен быть только в галактике Треугольник.
Всё, что вы даже не можете представить - оно будет или будет иметь возможность. В этом ужас сильного ИИ. Мы на 100% не сможем понять его логику никогда, даже если она у него будет.
.
Все, написанное в статье и комментариях - безусловная чушь, прошу прощения за мой французский ) Все будет гораздо-гораздо проще. Уже сейчас есть прототипы нейронок. в потенциале способных создавать индивидуальные виртуальные миры по запросу - sora, udio, claude 3 итд. Через несколько лет явно появится AGI, а еще через год-два ASI, для которого создание виртуальных миров для оцифрованного сознания человека станет must have. После чего люди массово оцифруются и уйдут во вселенные созданные специально для них. Будет примерно так же, как сейчас с геймерами, только на новом уровне. Отсюда и Великий Фильтр с Великим Безмолвием. Что AGI, что ASI не имеют по определению биологическую мотивацию для развития и распространения по вселенной, им все равно где и как существовать, а людей... людей в реальности уже не будет, они будут в собственных мирах. где они боги. Это судьба всех технологических цивилизаций
Что там делать в этих вселенных?? )) и кто будет их поддерживать. Не забывайте что все эти вселенные суть есть сервер. Который требует энергии. который надо обслуживать и поддерживать его работоспособность.
Вот то что мы плавно идем к кибергизации это да. Тот же нейролинк как пример. Импланты, чипы, и прочее прочее. Может когда то в будущем оцифровка и будет иметь смысл, кто знает что там будет. Но не сейчас это точно.
Следы предыдущего ИИ наверно остались... это остатки большого вз.
По мне это все ерунда. Нет не каких великих фильтров, мы люди сами его придумали. Цивилизаций полно, просто не хватает нам возможностей научного плана их засечь. Как пример человек ищущий сигналы морзянки году так в 2200м, не какой морзянки уже в помине нет. + надо учитывать расстояние. Мы видим - слышим только то что вот, тут, рядом. + мы ищем таких же как мы. Но кто сказал что они такие же как мы? Способы коммуникации даже в рамках нашей планеты у разных культур разные. В общем нет не какого фильтра.
Что касается опасности ИИ или ИСИ по мне тоже ерунда. Просто новый технологический виток развития всегда рождает определенные страхи. Когда изобрели паровую машину думали что все. Пар заменит все. В Англии кажется даже были бунты против фабрик. Жгли их там конкретно, человек вообще любит страшилки, еще пример, когда придумали пулемет, считалось что принципиально войны прекратятся, считалось что пулемет лишает войну смысла. Итог и того и того известен, рабочих мест не стало меньше а войны стали изощрённей и дали новый виток развития технологий.
Так и с ИСИ где то убавится, где то прибавится. Но в целом будет симбиоз и новый виток развития технологий.
Объясняет ли великую тишину Вселенной развитие искусственного интеллекта?