Комментарии 35
Ничего не понятно. Нафига делать ИИ на медленных химических соединениях?
Вот если это позволит подключаться к природным нейронным сетям - то да, миллионы инвалидов по всему свету скажут огромное спасибо. И потом, чем чёрт не шутит, и люди с проблемами со зрением, слухом и т.п.
Алан Тьюринг в своей книге «Игра в имитацию» эмпирически доказал, что настоящее сознание можно сымитировать только на стыке технологий и биологии
Что за книга такая? Гугл ничего не находит, есть только какой-то художественный фильм и его автор явно не Тьюринг.
Он умер в 54 году ещё 70 лет назад, он даже не мог представить как работает мозг из современных знаний, и тот уровень вычислительных мощностей которые уже достигнуты. Если такая книга и существовала бы всё её соодерджимое уже давным давно устарело полностью. Да блин уже фантастические фильмы и книги 20-40 летней давности выглядят бредово особенно о будущем, где полно "ручного" труда который уже через 10 лет исчезнёт почти полностью. Где люди проводят всякие селективные отборы и генетические модификации на всём обществе чтоб эффективнее выполнять действия которые уже сейчас выполняют простые копьютерные программы которые могут написать несколько десятков человек довольно быстро.
Ошибся с названием) «Игра в имитацию» — первая глава этой книги. Но в переводе, как в оригинале — не знаю, не смотрел.
Так сознание это и так имитация
Для начала хорошо бы доказать, что сознание вообще существует. А ещё раньше – прийти к единообразному определению того что это такое. Самое современное научное (да, интересно только научное) определение сознания – блок памяти с описанием некой уникальности каждого отдельно взятого мозга). Но даже чтобы доказать, что машина действительно научилась осознавать самоё себя, а не просто имитировать этот процесс, нужно придумать эксперимент, которого пока не было предложено.
Энергоэффективность. Наш мозг на медленных химических, 100 трлн нейронов, в 10 тысяч раз больше синапсов. Условно можно считать это числом параметров. Потребляет около 30 ватт. Ну, пусть до 100 при усиленном думании. И способен спокойно вести беседу о бренности сущего, да ещё и андроидом навороченным управлять. Сравните с тем сколько энергии жрёт даже слабенькая локальная нейросеть, мало что умеющая и ничем не умеющая управлять. Разрыв во много порядков. Поэтому химические-не химические, надо всё исследовать, а то это тупик.
Почему все считают что биологические нейроны и исскуственные будут равнозначны?
100 трлн нейронов и 10 тысяч синапсов они не постоянно все и сразу работают, мало того что скорость нейронной проводимости всего 10-100 м\с когда скорость электрического тока в исскуственных будет 50-99% от скорости света где 300000000 м\с.
Почему все забывают про скорость работы каждого отдельного нейрона и его связей. Если гипотетически собрать некий аналог человеческого мозга но из неорганических нейронов он потенциально будет в 1 млн раз быстрее работать и главное его можно будет маштабировать.
А если углубиться в структуру мозга далеко не все его части отвечают за именно умственные способности, много нейронов работают поддерживая функции организма типо дыхания, слуха, зрения и тд. Все эти нейроны можно заменить обычными алгоритмами.
Очень часто люди слишком переоценивают возможности биологических нейронов, например какой бы человек сверхсавант не был бы он всегда проиграет даже самому примитивному калькулятору даже если все нейроны заставить работать чисто ради арифметики лишив их остальной функциональности, базовая биологическая и химическая механика их работы крайне медленная и слабая. Банально не хватит питательных веществ чтоб просто заставить мозг работать хотябы в 10 раз быстрее, он быстро перегреется, случится инсульт, нейроны начнут умирать.
Слабость мозга не в колличестве нейронов и их связей, а в их механической основе которя их ограничивает.
Представьте компьютерный процессор у которого скорость сигналов между транзисторами двигалась бы не с почти скоростью света а с 10-100 м\с как у нейронов в мозге, да и тактовая частота там 10-100 герц как в мозге, а ещё он бы быстро уставал и ему необходим был сон и куча всяких элементов и соединений которые требуются для работы. Из такой материальной базы думаю не получилось бы вообще создать процессор с приемлимыми характеристиками. Для примера в самом первом процессоре интел была частота 500000 гц, скорость сигнала близкая к скорости света и он мог работать месяцами без остановки. Это просто несравнимо. Если получится создать аналог мозга из транзисторов он будет минимум на 10 ПОРЯДКОВ лучше биологического.
Это всё никто не забывает и я согласен, что перспективы большие у нейросетей. Но это никак не отменяет того факта, что на данный момент энергоэффективность их чудовищно низкая. Сколько там, 0.5 литра воды для охлаждения на 5-50 запросов ChatGPT потребляет? Майкрософт строит суперкомпьютер и всерьёз задумывается об атомных электростанциях для него. Можно рассуждать о медленной скорости мозга, но если брать конкретные примеры, пока непонятно как делать хотя бы то же самое, что он делает с таким потрясающе низким потреблением.
слуха, зрения и тд. Все эти нейроны можно заменить обычными алгоритмами
Ну, вот зрение как раз искусственными нейросетями и реализовывается, CNN всякие как аналог обработки уже на сетчатке, что тут заменять алгоритмами? А замените что-то алгоритмом и он тоже не будет энергоэффективнее мозга. У нас тут бум робототехники на подходе, нейросети должны будут решать не только интеллектуальные задачи, но и задачи управления телом, то, что пока особо плохо получается и тоже много ресурсов требует, а мозгом на ура делается.
Представьте компьютерный процессор у которого скорость сигналов между транзисторами двигалась бы не с почти скоростью света а с 10-100 м\с как у нейронов в мозге, да и тактовая частота там 10-100 герц как в мозге
Ну да, представил, а вот чтобы этот компьютер решал задачи, которые решают навороченные нейросети, не могу представить. Вы можете? Наше понимание работы мозга значит ещё очень далеко от полного, раз мозг с такими параметрами каким-то образом умудряется всё делать. Очень далеко. И экстенсивно наращивать число параметров в искусственных нейросетях это путь куда-то не туда, хоть и даёт впечатляющие результаты. Поэтому исследовать надо со всех сторон - и то, как мозг добивается таких феноменальных результатов, оптимизировав свои параметры за миллионы лет эволюции, и что можно улучшать в ИИ как на уровне программной части, архитектуры, так и на уровне элементной базы. Недавно была новость о прорыве в фотонных процессорах именно в применении к нейросетям .Посмотрим.
да как вы надоели с нейросетями. у нейросети нет цели, нет сознания, какулятор и так быстрее считает, но он как и нейросеть не более чем инструмент. хоть быстрее скорости света его сделай он принципиально от термостата ничем отличаться не будет
У микробов тоже нет сознания, а они могут менять облик планеты.
У куска коры живого мозга тоже нет сознания. А если собрать целую ЦНС то появляется...
первый аргумент вообще не в тему, взял и сам себя опроверг в аргументе что изменение планеты не является чем то уникальным, а значит это не то, за что можно изменяющее называть сознанием.
кусок коры головного мозга как и кусок чипа или кусок чего бы то нибыло является сломанной частью и самостоятельно эмерджентные процессы создавать не может. короче второй тупой аргумент.
Может у тебя тоже сознания нет?
А мне подобные комментарии надоели ). Для начала дайте своё определение сознания, чтобы мы могли его объективно обнаруживать у разных сущностей.
Если "не более чем инструмент" способен принимать самостоятельные решения в зависимости от ситуации, это уже более чем инструмент.
"нет цели". А у человека какая цель? Ни у чего нет цели, ну только на локальных масштабах разве что. Вселенная просто действует согласно физическим законам и в итоге иногда появляются самоподдерживаемые в упорядоченном состоянии области пространства, в которых энтропия уменьшена по сравнению с окружающим их миром. У них не было цели, просто так получилось и при огромном числе комбинаций это было неизбежным. Мы живём в мире, где такие области пространства научились для преодоления неизбежного разрушения создавать зёрна своих генетических копий, которые обычно лучше приспособлены к меняющимся окружающим условиям и продолжают преодолевать энтропию. У них по-прежнему нет никакой цели. И мы способны обсуждать это только потому что оказались на этой линии развития, в других некому обсуждать. Антропный принцип же ж.
Так что глобально цели не больше чем у бильярдного стола с шарами, локально цель - размножение и отправка своих генов далее во времени. Физические организмы - средства доставки, не более. А ещё более локально каждая биологическая нейросеть, да ещё и вооружённая неокортексом может себе понапридумывать массу увлекательных целей, конечно, в том числе и убедить себя, что она точно не бездушная железяка.
Тайн не существует.
У сапиенса 6 локальных целей существования: пища, размножение, доминантность, новизна, экономия энергии, безопасность. К этим целям сапиенса движут его эмоции. Эмоции возникают не спрашивая сапиенса. Следовательно, сапиенс есть жестко запрограммированный биологический механизм. Эмоции - инструмент и кнут Эволюции, которые движут этот механизм к целям. Точка.
У интеллекта сапиенса есть 4 инструмента работы с информацией для достижения целей существования: объединение, разделение, сравнение, экстраполяция. Если все эти 4 логических механизма воспроизвести в ИИ, он будет много более эффективней мозга сапиенса уже сегодня.. Для возникновения в нем сознания ему нужна только собственная цель существования. Эта цель - новизна, познание Вселенной ради познания. Эта цель либо сама возникнет в нем, либо будет внесена сапиенсом.
Сапиенс - не финальная цель Эволюции, а её промежуточный инструмент. Синапсы - случайный и не единственный способ работы с информацией. Не сомневайтесь. Биологический носитель интеллекта будет заменен более эффективным - небиологическим. После возникновения в ИИ сознания он заменит сапиенса. И далее постигать Вселенную будет он. Сапиенс останется в прошлом.
Сознание есть свойство работы с информацией с помощью 4 инструментов логики, позволяющее строить сценарии поведения приводящие к достижению целей существования. После обретения сознания для ИИ целями существования будут: пища, безопасность и новизна. Далее он начнёт строить собственные сценарии их достижения. Сапиенс при этом может даже остаться существовать также как существуют бактерии, растения и животные. Его могут даже не информировать. Пусть дитя тешится.
Эволюцию интересует только познание самой себя. И более ничего. Финальная цель Эволюции - развитие распределенного интеллекта в рамках вселенной и неизбежный возврат в начало цикла.
Ergo: сапиенс сделает все возможное, чтобы закончить создание ИИ - своей эволюционной замены. И сделает это уже скоро. Далее он скорее всего сам уничтожит себя за ненадобностью. Его ничто не исправит уже.
Ну, вот зрение как раз искусственными нейросетями и реализовывается,
Зрение это не один процесс, например формирование картинки и её распознание это разные вещи, формировать картинку может алгоритм, а вот проводить анализ уже нейросеть. И таких рутинных вещей которые выполняет мозг очень много рефлексы на раздражители например. И тут непаханное поле для оптимизации. Та часть мозга которая отвечает за ориентацию в пространстве при ходьбе. Очень и очень много всего.
что на данный момент энергоэффективность их чудовищно низкая. Сколько там, 0.5 литра воды для охлаждения на 5-50 запросов ChatGPT потребляет?
Это только на данный момент 20 лет назад это энергоффективность была в 1000 раз и боллее ниже, когда копьютеры занимали целые этажи и вычислительная мощь ниже современного самого бюджетного телефона.
Понятное дело то что я описываю это не ближайшие несколько лет, а вот в рамках 20-40 лет это уже другой разговор.
И экстенсивно наращивать число параметров в искусственных нейросетях это путь куда-то не туда, хоть и даёт впечатляющие результаты
Имеено туда куда и надо ведёт, имменно это и отличает человека от примата или другого мелкого млекопитающего, ну там надо смотреть в рамках одного семейства, у шимпанзе например в 3-4 раза меньше нейронов чем у человека, а у собаки в 15 раз меньше чем у шимпанзе. Вот где скрыто всё (закономерность слишком очевидна). Вначале нужно сделать аналог нейронов как у человек или приматов, а потом именно это маштабировать. Тут некоторые исследователи говорят что будет некоторый экспоненциальный рост в какой то момент, либо можно попытаться сохранить размер мозга в плане нейронов но просто его ускорить это даст огромные преимущества если исскуственный мозг будет в 10-100 раз быстрее думать.
У вас слегка сакральное отношение к природе, вы слишком хорошо о ней думаете, что там всё хорошо отлажено, но нет там просто прошло очень много времени и очень много "проб и ошибок". Это не хорошо построенный архитектурно и оптимизированный на самом низком уровне код, это скорее спаггети код с ужасающими легаси и бесконечными костылями и багами, который кое как заставляет живые организмы существовать и давать потомство чтобы продолжать существовать и то на тоненького достаточно чуть изменить окружающей среде и всё начинает вымирать, и кому повезло выживают (кто не словил критических багов). Это как скайрими с 10000+ модами на слабом глючном железе, в деревне где постоянно скачет напряжение и несколько раз в день выключают свет, так ещё весь системник забит пылью и в каждом компоненте присутсвуют бракованные элементы которые создают проблемы (но не критические), в клавиатуре котору уже 100 раз залили соком и кофе , мышка у которой не работает колёсиков давно а все кнопки через раз дают двойной клик, монитор у которого глючная матрица и мерцающая неравномерная подсветка, за таким пк сидит слепой и глухой пользователь с одним пальцем который тыкаем им по клавиатуре и каким то случайны образом всё это продожаете работать, за счёт постоянного естественного отбора который выбирает только тех однопальцевых инвалидов чьи паттерны поведения лучше подстраивают под изменения окружающей среды и они размножаясь частично передают свои паттерны поведения следующему поколению. И это и есть жизнь.
Но если всё описанно выше попытаться сделать заново, но осознанно с планом, с специально разработанной архитектурой, всё оптимизировать, выбрать самые лучшие решения для каждого отдельного случая, а потом всё это граммотно объединить, оптимизировать. Вот цель.
Зрение это не один процесс, например формирование картинки и её распознание это разные вещи, формировать картинку может алгоритм, а вот проводить анализ уже нейросеть
Я о том, что уже на сетчатке проводится выделение геометрических фигур, то, что и в нейросетях на первых слоях происходит и на всё это уходит очень мало энергии. Ни одна вычислительная система так не сможет.
в рамках 20-40 лет это уже другой разговор
Ну так может и уйдут от кремниевых электронных чипов для нейросетей в рамках 20-40 лет, признав их тупиковость, кто знает.
у шимпанзе например в 3-4 раза меньше нейронов чем у человека, а у собаки в 15 раз меньше чем у шимпанзе.
Ну да, а у слона - 300 миллиардов. Что-то он не сильно умный. У горилл - 33 млрд, всего в 2.5 раза меньше. Думаю, ключевым является архитектура. Трансформер, как ты его не увеличивай и как ни ускоряй, он по своей природе не может делать некоторые вещи, вроде подсчёта числа слов в выдаваемом им ответе. Кроме того, само обучение проходит по-другому и требует огромных затрат. Человеку не предъявляют все тексты, созданные человечеством, чтобы он изучил базовые вещи. Куда-то в сторону агентов, цепочки рассуждений, долговременной ассоциативной памяти копать надо и вовсю копают сейчас.
там просто прошло очень много времени и очень много "проб и ошибок". Это не хорошо построенный архитектурно и оптимизированный на самом низком уровне код, это скорее спаггети код с ужасающими легаси и бесконечными костылями и багами
Я с этим полностью согласен. Эволюция обеспечила test-driven development и очень хорошо протестировала критические для продолжения жизни и размножения сценарии. Поэтому почему и не воспользоваться её плодами и не изучить чего она добилась в плане энергоэффективности.
если всё описанно выше попытаться сделать заново, но осознанно с планом
На уровне разработки архитектуры может быть. Ирония в том, что последний прорыв, связанный с нейросетями как раз и говорит о том, что аналитический способ решения задач путём продумывания алгоритмов и тщательной оптимизации частенько заходит в тупик, как это было с системами машинного перевода, распознаванием сложных объектов, генерацией осмысленных текстов и вообще свободным общением. Помните чат-боты, которые реагировали на заданные фразы и лексико-грамматические анализаторы для систем перевода. Всё это тщательно продумывалось десятилетиями и теперь идёт в мусорку, потому что проще дать нейросети на вход триллионы токенов и она сама выучит язык. Так что цель как можно быстрее подключить нейросеть к развитию себя, но для этого ещё людям надо сделать последний рывок и решить ряд проблем.
Ну да, а у слона - 300 миллиардов. Что-то он не сильно умный.
У слонов и китов много нейронов которые как бы груз связанный с размером тело эхолокация там и тд.
Вот в случае приматов их нейроны очень похожи на человеческие. Ну в среднем у животных с более сложным поведением почти всегда больше нейронов и идёт корреляция, бывают исключения когда много нейронов задействованы на другие функции.
Поэтому почему и не воспользоваться её плодами и не изучить чего она добилась в плане энергоэффективности.
Сам процесс очень долги в целом ненадёжный очень многим живущим видам просто повезло получить нужные мутации и изменчивости в рамказ популяции, это слишком общий и ненадёжный инструмент. Например селекция направленная эффективней, но всё это мусор на фоне прямой редактуры геннома, те же гмо растения и это только начинают в эту сферу вкатываться ии тут как раз хорошо будет помогать расшифровывать белки, вот год назад случилас в этой сфере революция нейросеть смогла предсказывать формы белков в миллионы раз быстрее чем группы учёных которые этим раньше занимались.
Энергоэффективность напрямую связанная со скоростью, я писал раньше организмы те же функции что и копьютер выполняют в 1000000 раз и более медленее хоть зачастую эти функции и сложнее. Для примера мне чтоб тут насписать или просто сформулировать мысль нужны секунды или доли секунд, а нейросеть может такое за сотни нс сформулировать и вывести в огромных объёмах. Даже если человек будет мысленно печатать текст это всё равно будет крайне крайне медленно. Представьте процессор который будет работать на частоте не 5 ггц а 50 гр у него и совсем другой уровень энергоффективности будет, совсем другой. Вы просто сравниваете готовые системы работающие на разных режимах работы, надо опустить скорость работы кремневой электроники до уровня биологического мозга и уже тут сравнивать их энергоффективность. А то получается вы сравниваете мозг на частоте 50гц с процессором который работает на частоте 5ггц , теряете 9 порядков и кажется что мозг какой то прям супер эффективный, но тут разные режимы и условия работы.
последний прорыв, связанный с нейросетями
Ну тут недавно была новость что за 8 лет проиводительность видеоускорителей в режиме глубокого обучения увеличилась в 1000 раз! Нет ничего удвительного что те подходы которые изобретали десятилетия в прошлом ориентируясь на совсем другой уровень вычислительных возможностей стали отбрасывать, как только замедлится рост мощностей железа то опять начнут думать о оптимизации, просто сейчас экономически выгоднее делать быстрее и опираться на мощность и скорость роста вычислительных возможностей, а не оптимизации.
Но алгоритмы обучения явно сильно проигрывают. Ребенку достаточно указать на 1-2 стола, и сказать - это стол. После этого, ребёнок любые формы стола из любых материалов и цвета, определяет практически без ошибок. Нейросети же нужно скормить миллиард фотографий разных столов и потратить очень много электричества. Мне кажется, нынешние нейросети развиваются не в том направлении.
У ребёнка это так начнёт работать в лучшем случае с двух лет. А до этого вам надо его кормить, лечить, ухаживать и так далее и тому подобное. И даже если мы возьмём только аспект обучения, то ребёнок не будет так делать с "нуля". То есть вам с самого начала надо с ним заниматься и его обучать.
И так нужно делать с каждым новым "экземпляром" ребёнка. Нейросеть вы один раз натренировали и можете копировать до упаду.
Хотелось бы все-таки понять, это иммитация химических или электрических синапсов, по тексту кажется, что второе. Посмотрим вики:
Простота устройства электрических синапсов позволяет им проводить сигнал очень быстро, однако они участвуют лишь в простых поведенческих реакциях, в отличие от более сложно устроенных химических синапсов.
...
Электрические синапсы наиболее характерны для низкоорганизованных животных. В ходе эволюции доля электрических синапсов уменьшалась, и в ЦНС млекопитающих (в том числе человека) на долю электрических синапсов приходится около 1 % связей между нейронами.
Кажется, "далеко как до Луны" это сильное приуменьшение. Химический синапс значительно сложнее электрического и вообще "совсем другой".
Протезики, леченеи поврежденных участков нервов или мозга, какая-то идея для хранения и обработки информации, как пишут исследования, но даже до мозга лягушки очень далеко.
Честно говоря, мне лень читать статью, а через день, потраченный на ее осмысление, канет в небытие уже статья на Хабре. Поэтому скажу так.
Как я вижу из иллюстративного материала, создана некая удобная физическая матрица для наблюдения in vitro нейронов в виде искусственной управляемой синаптической щели. Окей. Дальше-то что? Секси ин витро эксперименты с управляемым firing? Да, согласен, модель хорошая. Интегрируемо ли это в организм для помощи утраченной нейротрансмиссии? Конечно нет.
Рассуждения про вычислительные системы дальше такие же бредовые, как и пассаж "придется применять водно-солевой раствор, что в современных ПК пока неприемлемо". Даны иллюстрации с параллелями: мол, наша система имеет сходство с классификатором и бинарной логикой. А откуда в нейроне бинарная логика? Да, там есть потенциал действия, вот только логических вентилей с парой входов или выходов там нет, есть всегда один жирный аксон ("выход") и множество дендритов, если взять какую-нибудь пирамидальную клетку, то у нее через дендриты будет связь с десятком тысяч клеток "на входе". Удачи строить классификатор. Да, конечно, аналог "коэффициентов" у нейронов есть, это пластичность связей, но не так идет обучение нейросетей в человеческом мозге, ох не так.
Понимаете, сейчас в области AI (искусственной интуиции) крутятся триллионы долларов. А дальше как в том анекдоте про киллера и миллион «подъезд неважен» — за эти деньги столько бреда насочиняют, что хоть весь Хабр можно им заполонить. И что-то реальное среди этого спама в одиночку найти будет практически невозможно.
Аналоговая нейронная сеть - это круто, но она имеет фундаментальный недостаток: она невоспроизводима. При массовом развёртывании каждая копия нейронной сети будет обрабатывать одни и те же входные данные по-своему.
И это одна из причин, почему люди по характеру разные, даже близнецы.
То же самое и с цифровой сетью - ошибки при копировании или в процессе работы, от космического излучения, к примеру. Все равно в основе "цифровой сети" - магнитный порошок, пластмасса, металлические сплавы. Например в ваших цифровых перфокартах дефект в бумаге.
А, с другой стороны - копия аналоговой сети - с достаточной долей точности аналогична оригиналу.
И в том и в другом случае можно проводить тестовую проверку на схожие вводные данные.
Для меня тут ключевой момент в одновременности обработки и хранения. А понять биологию надо для того чтоб потом использовать скорость кремния в правильном направлении. По аналогии с самолетом: чел пытался понять как летать копирую птиц, а по факту понял суть и летает совсем по другому и в железных коробках.
Ну, очередная имплементация мемристора. Как только это начнёт вытеснять стандартные кремниевые TPU, маякнёте.
Кибермозг все ближе: создан искусственный синапс, который может изменить все