Рыба Земли | the Fish of the Land
Norman Volt 30.05.2024
Рыба, обита́я в воде, не может исследовать сушу. Существо не имеет возможности обозревать иное внешнее пространство, находясь в пределах своего. Вода ограничивается сушей. Пространство же су́ши (Земля) заключено в космосе. Тем самым, мы видим космос также, как рыба видит су́шу. Человек – это "рыба" Земли.
Любопытно, как именно эволюция шагнёт дальше. И что объективно возможно "там" обнаружить, если когда-то перестать быть "рыбой".
🔥 Мощная шпаргалка от Стенфорда, посвящённая важнейшим понятиям ML
Здесь содержится все ключевые формулы и понятия базовых алгоритмов Machine Learning
Вся информация отлично структурирована и имеется оглавление.
Хороший вариант для тех, кто хочет погрузится в мл.
Если интересуетесь темой МЛ и нейросетей, здесь я публикую разбор свежих моделей, статей и гайдов, кладешь полезной информации.
Вопросы и ответы с собеседований большая подборка
Большая, подборка вопросов и ответов с собеседований по ML, Data Science,Ai, статистике, теории вероятностей python, SQL.
ML
▪100 вопросов c собесов по машинному обучению 2024
▪Сборник ответов с собесов по машинному обучению от FAANG, Snapchat, LinkedIn.
▪Facebook. Вопросы по машинному обучению 2024 год
▪Google руководство по прохождению собеса в 2024 году
▪ Подготовка к собеседованию по ML: ответы на основные вопросы
▪ 14 типичных вопросов с собеседования по ML
▪ Вопросы для собеседования на позицию ML-инженера
▪ Решения вступительных испытаний в ШАД
▪ Решения вступительных испытаний в ШАД архив
▪AI Interviews at Apple, OpenAI, Bloomberg & JP Morgan – What to Expect
▪Apple Machine Learning Engineer (MLE) Interview Guide
▪Junior ML-инженер | Выпуск 1 | Собеседование
▪Успешное собеседование в Яндекс
▪Как я проходил собеседования на Machine Learning Engineer
NLP
▪100 вопросов и ответов для интервью по NLP
▪Топ-50 вопросов собеседований NLP
DS
▪Материалы для подготовки к интервью data science
▪100 вопросов для подготовки к собесу Data Science
▪Временные ряды. Топ 50 вопросов
Python
▪100 вопросов для подготовки к собесу Python
▪45 Вопросов с собеседований Pandas
▪400 самых популярных вопросов-ответов для Python-разработчика
AI
▪30 вопросов промпт инжинирингу
SQL
▪Задачи с собеседований SQL
Полный список с разбором можно найти тут.
Новая Бесплатная книга: Алиса отправляется в дифференцируемую страну чудес!* 🔥
🐇📚 Alice’s Adventures in a differentiable wonderland
Новая бесплатная книга на английском языке по проектированию нейронных сетей.
Отправляемся в увлекательное приключение по миру математики нс, от самых азов до трансформеров.
Отличный баланс между теорией и кодом, с историческими справками и описанием современных тенденций развития нс.
Приятный бонус это красивый дизайн и приятные иллюстрации.
Отличное приключение на выходные)
📓 Книга
Больше книг, гайдов и разборов новых моделей в моем канале о машинном обучении, залетайте, если интересна тема.
100 лекций по математике от Оксфорда
Оксфорд публикует лекции по математике, чтобы дать представление об опыте студентов и о том, как они преподают математику в Оксфорде.
В этом плейлисте собраны лекции из различных курсов за все студенческие годы (включая целые курсы).
За всеми лекциями следуют учебные занятия, на которых студенты встречаются со своим преподавателем и решают задачи.
Примерно 80 часов отборной математики.
• Плейлист
В своем канале я выкладываю полезные открытые лекции, книги и уроки, для всех, кто хочет учиться и развиваться.
Стартовал приём научных статей по искусственному интеллекту и машинному обучению для публикации в научном журнале конференции AI Journey от «Сбера».
Ключевые работы учёных и исследователей будут опубликованы в специальном выпуске журнала «Доклады Российской академии наук. Математика, информатика, процессы управления» и его англоязычной версии Doklady Mathematics. Автор лучшей статьи получит один миллион рублей.
Журнал выйдет в рамках ежегодной международной конференции по искусственному интеллекту AI Journey «Путешествие в мир искусственного интеллекта», она состоится в конце 2024 года. Издание публикуется на площадках мировых электронных библиотек и индексируется в крупнейших библиографических базах данных научного цитирования.
Для участия в конкурсном отборе до 20 августа принимаются статьи с описанием исследования и его результатов. Допущенные к отбору статьи рецензируются ведущими российскими специалистами в области AI и ML. Окончательное решение о публикации в специальном выпуске журнала и присуждении премии за лучшую статью примет экспертная комиссия. С Правилами отбора можно ознакомиться на сайте AI Journey.
Небольшая залипалка про четырехмерный куб. Для всех ценителей "Геометрической рапсодии"
Асимпто́та | Asymptote
Автор: Норман Вольт. 10.02.2024.
Постоянно происходит трансформация, изменение, усовершенствование. Пример - ЭДО, формы отчётности и виды взаимодействий, подлежащих непрерывной автоматизации.
С некогда бумажных бланков платёжных поручений и накладных, мы стремительно переходим к автоматизации учёта, налогов и планирования. При том, что уже во многом, расстояние между потребителем, налоговым агентом и государством равно нулю. И формы документов, со всей содержащейся в них бюрократической нагрузкой - стремительно устаревают в мире ясных данных.
Если задуматься, то наше поколение проходит такой путь за какие-то жалкие 30-40 лет, и скорость прогресса в данном секторе беспощадно к чему-то стремится. Интересно к чему?
#ЭДО #автоматизация #МирЯсныхДанных #СкоростьПрогресса #путь
Инженеры и разработчики Аапо Леметтинен, Владимир Осмехин и Георгий Марков смогли собрать и запустить самый большой в мире сумматор из домино. Авторы проекта также дали в ролике краткое объяснение о компьютерах из домино. Фактически это сумматор, который способен считать сумму двух 6-битных двоичных чисел.
На видео ниже компьютер из домино правильно посчитал сумму 59 и 19. В двоичном виде это 111011+10011.
Проект Эйлера: Когда тривиальные задачи с CodeWars надоели и хочется настоящих головоломок
Привет друзья! Если вы не любитель математики или вам неинтересно разбираться в дебрях формул то пропускайте эту статью) если же вам нечем занять свое время нравятся нестандартные задачи, то велком к прочтению!
Сегодня я хочу рассказать вам об одном интересном сборнике задач, который называется Проект Эйлера. Этот проект представляет собой серию из 64 математических задач различной сложности. Набор интригующих задач по математике и программированию, для решения которых, однако, недостаточно одной только математической интуиции. Разумеется, математика поможет прийти к красивому и элегантному решению, но для успешного решения большинства задач без навыков программирования не обойтись.
Ссылка на русскоязычный сайт - тык
Создатели проекта ProjectEuler (оригинал на английском), на котором можно найти все задачи и ответы к ним. Все задачи в Проекте Эйлера разделены на уровни сложности. Начинающим участникам предлагаются задачи начального уровня, для решения которых достаточно знаний арифметики. Продвинутые участники могут попробовать свои силы в решении задач продвинутого уровня, требующих глубоких знаний в области теории чисел, комбинаторики и других разделах математики.
Если вы интересуетесь Python и хотите узнать больше об этом языке программирования, то приглашаю вас подписаться на мой канал! https://t.me/python_scrypt. Полезные материалы, уроки и новости из мира программирования
Progress Rate | Скорость Прогресса.
Автор: Норман Вольт. 27.01.2024.
Люди как вид, должны будут так или иначе эволюционировать в бессмертных и бестелесных. Относительно времени и оболочки, в которых мы существуем сейчас. Свойство нашего интеллекта – преодолевать барьеры, превосходить себя вчерашнего. Но и этого уже становится мало.
Скорость прогресса увеличивается невероятными темпами. Представив, что некогда нормальное существование цивилизации (на протяжении многих тысяч лет) без необходимости в вычислителях даже элементарных арифметических операций – сменяется дикой потребностью в аппаратах, замещающих уже и человеческое мышление. Что же будет через 10 лет? Сложно даже представить, к чему стремится этот экспоненциальный рост.
Ну а пока, мы остаёмся заперты в "бесконечной" для нас вселенной, заперты на Земле при помощи своего убеждённого невежества. Лишь это нам мешает преодолеть базовые земные циклы времени, срок биологических тел и предел видимых нами горизонтов знаний, находить и исследовать уже и иные миры.
**Данная статья является продолжением мыслей предыдущих статей автора, не претендует на достоверность, и является строго субъективным мнением на научной основе.
Компьютер двоичный, многоичный и аналоговый.
Все привыкли к двоичным. Гонка за разрядностью сделала нормой 64 разряда в двоичной системе. Однако также как и системы исчисления бывают разные - шестидесятеричная, десятичная, двадцатеричная, так и вычислительные машины могут иметь разное основание.
Вот например недавно на Хабре была статья про троичный компьютер.
С детальным разбором того, чем он интересен. https://habr.com/ru/companies/timeweb/articles/723404/
Но хранение в одной ячейке памяти не двух возможных значений, а больше (трех, десяти) должно бы сильно сократить физический размер компьютерной памяти.
Для восьмеричного компьютера в четыре раза. Если при этом сами вычисления останутся двоичными, то будет проблема передачи данных из памяти в вычислитель и обратно.
Троичный вычислитель уже делали. А такой, у которого больше доступных состояний? Надо уметь делать действия с числами, которые записаны не в виде 0 и 1 а как 0,1..7. Возможно ли это? Вполне. Можно, например, умножение реализовать на операционных усилителях с компаратором. Цифровой вычислитель имеет внутри аналоговый умножитель и компаратор для получения точных значений.
А если быстро нужно так, что можно пренебречь точностью? Тогда нужен аналоговый вычислитель. Такие вычислители могут давать потрясающие скорости.
И раньше они были даже механическими. Думаю скоро мы увидим аналоговые компьютеры. Ведь все вещественные числа в любом случае имеют ограниченную точность.
❓100 Вопросов по Машинному обучению (Machine Learning) - Вопрос_17
🔠 Можете ли вы объяснить, как работает Prophet для прогнозирования временных рядов ? (Часть_1)
Декомпозиция временного ряда: Prophet автоматически декомпозирует временной ряд на несколько компонентов:
Тренд: Prophet моделирует гибкий нелинейный тренд, который может быть линейным или логистическим, в зависимости от данных.
Сезонность: Prophet обнаруживает и моделирует периодические сезонные компоненты, такие как ежедневные, еженедельные или ежегодные сезонности.
Праздники: Prophet позволяет включить информацию о праздниках и других событиях, которые могут влиять на временной ряд.
Оценка компонентов: Prophet использует метод максимального правдоподобия для оценки параметров тренда, сезонности и праздников в данных. Он оптимизирует функцию потерь, которая учитывает как среднеквадратичную ошибку (MSE) для тренда, так и MSE для сезонности.
🔥 Телеграм-канал: t.me/DenoiseLAB (Если вы хотите быть в курсе всех последних новостей и знаний в области анализа данных);
9999999999999999.0 - 9999999999999998.0 в 20 языках программирования:
Ruby: irb(main):001:0> 9999999999999999.0 - 9999999999999998.0
2.0
Java: public class Foo{public static void main(String args[]){System.out.println(9999999999999999.0-9999999999999998.0);}}
2.0
Python: >>> 9999999999999999.0 - 9999999999999998.0
2.0
Rebol: >> 9999999999999999.0 - 9999999999999998.0
== 2.0
Haskell: Prelude> 9999999999999999.0 - 9999999999999998.0
2.0
TCL: % expr "9999999999999999.0-9999999999999998.0"
0.0
Emacs Lisp: ELISP> (- 9999999999999999.0 9999999999999998.0)
2.0
Common–Lisp: [1]> (- 9999999999999999.0 9999999999999998.0)
0.0
Maxima: (%i1) 9999999999999999.0-9999999999999998.0; (%o1) 2.0
Google: 0
K/Q: q)9999999999999999.0-9999999999999998.0
2f
R: > 9999999999999999.0-9999999999999998.0
[1] 2
Erlang: 1> 9999999999999999.0-9999999999999998.0 .
2.0
C: main(){printf("%lf\n",(double)9999999999999999.0-9999999999999998.0);}
2.000000
AWK: $ awk 'END{print 9999999999999999.0-9999999999999998.0}'</dev/null
2
GoLang: var a = 9999999999999999.0; var b = 9999999999999998.0; fmt.Printf("%f\n", a-b)
2.000000
Perl: $ perl -e 'print 9999999999999999.0-9999999999999998.0;print "\n";'
2.0
Perl6: $ perl6 -e 'print 9999999999999999.0-9999999999999998.0;print "\n";'
1
Wolfram: 1
soup: 9999999999999999.0-9999999999999998.0
1
❓100 Вопросов по Машинному обучению (Machine Learning) - Вопрос_14 (Часть_1)
Какие подходы могут помочь модели сохранить стабильность популяции при изменении данных?
Кросс-валидация (Cross-Validation): Кросс-валидация позволяет оценить производительность модели на разных подмножествах данных. Например, метод k-fold cross-validation разбивает данные на k подмножеств, называемых фолдами. Модель обучается на k-1 фолдах и оценивается на оставшемся фолде. Этот процесс повторяется k раз, каждый раз используя разные фолды. Таким образом, модель оценивается на различных подмножествах данных, что помогает выявить ее стабильность популяции.
Стратифицированная выборка (Stratified Sampling): При формировании обучающей и тестовой выборок можно использовать стратифицированный подход. Это означает, что при разделении данных на выборки будут сохранены пропорции классов или распределений признаков. Такой подход помогает уменьшить возможное искажение данных при изменении популяции.
t.me/DenoiseLAB (Еесли вы хотите быть в курсе всех последних новостей и знаний в области анализа данных);
❓100 Вопросов по Машинному обучению (Machine Learning) - Вопрос_13
🔠Вопрос_13: Какие есть альтернативы Expectation-Maximization (EM) ?
Markov Chain Monte Carlo (MCMC): MCMC - это класс методов, которые позволяют проводить сэмплирование из сложных распределений, таких как постериорные распределения параметров моделей. MCMC методы генерируют последовательность сэмплов, которая соответствует искомому распределению. MCMC алгоритмы, такие как Metropolis-Hastings и Gibbs sampling, являются альтернативой EM и позволяют оценивать параметры модели, учитывая скрытые переменные.
Stochastic Gradient Variational Bayes (SGVB): SGVB - это метод, который комбинирует идеи градиентного спуска и вариационного вывода для оценки параметров моделей. Он позволяет приближенно оптимизировать параметры модели, используя стохастические градиенты, что делает его масштабируемым для больших наборов данных. SGVB широко применяется в глубоком обучении и моделях с динамическими параметрами.
Bayesian Optimization: Bayesian Optimization (байесовская оптимизация) - это метод, который позволяет находить оптимальные значения гиперпараметров модели. Вместо оценки параметров модели, как делает EM, байесовская оптимизация исследует пространство гиперпараметров с целью нахождения наилучших настроек модели с использованием итераций оптимизации и апостериорных распределений.
t.me/DenoiseLAB (Еесли вы хотите быть в курсе всех последних новостей и знаний в области анализа данных);
❓100 Вопросов по Машинному обучению (Machine Learning) - Вопрос_12
🔠Вопрос_12: Expectation-Maximization (EM) ?
Expectation-Maximization (EM) - это итерационный алгоритм, который используется для оценки параметров вероятностных моделей, когда некоторые данные являются наблюдаемыми, а другие данные являются скрытыми или неполными. EM-алгоритм часто применяется в статистике и машинном обучении для обучения моделей с неизвестными параметрами.
EM-алгоритм состоит из двух основных шагов: шага ожидания (Expectation) и шага максимизации (Maximization).
Шаг ожидания (Expectation step, E-шаг): На этом шаге вычисляются ожидаемые значения скрытых переменных (или "ответственностей") в соответствии с текущими значениями параметров модели. Это делается путем вычисления условного математического ожидания скрытых переменных при условии наблюдаемых данных и текущих параметров модели.
Шаг максимизации (Maximization step, M-шаг): На этом шаге обновляются параметры модели, чтобы максимизировать ожидаемое правдоподобие, полученное на E-шаге. Обновление параметров происходит путем решения оптимизационной задачи, которая может включать максимизацию правдоподобия или минимизацию ошибки между наблюдаемыми данными и ожидаемыми значениями.
t.me/DenoiseLAB (Еесли вы хотите быть в курсе всех последних новостей и знаний в области анализа данных);
https://boosty.to/denoise_lab (Если вы хотите поддержать проект, или получить более модные фишки по коду и продвижению подписывайтесь).
❓100 Вопросов по Машинному обучению (Machine Learning) - Вопрос_11
🔠Вопрос_11: Какие есть альтернативы Affinity Propagation ?
Агломеративная кластеризация (Agglomerative Clustering): Это иерархический метод кластеризации, который начинает с каждой точки данных в отдельном кластере и последовательно объединяет ближайшие кластеры, пока не достигнет заданного числа кластеров или критерия объединения. Агломеративная кластеризация может работать как с евклидовыми расстояниями, так и с другими метриками.
Gaussian Mixture Models (GMM): Это статистическая модель, которая представляет каждый кластер как смесь нормальных распределений. GMM моделирует данные с помощью вероятностей и может обнаруживать скрытые кластеры и моделировать данные с разной формой распределения.
Spectral Clustering: Этот алгоритм использует спектральные методы для преобразования данных в новое пространство и выполнения кластеризации. Он основан на вычислении собственных векторов матрицы сходства данных и последующем применении методов кластеризации на полученных спектральных коэффициентах.
t.me/DenoiseLAB (Еесли вы хотите быть в курсе всех последних новостей и знаний в области анализа данных)
❓100 Вопросов по Машинному обучению (Machine Learning) - Вопрос_10
🔠Вопрос_10: Что такок Tarantool и как он устроен ? (Часть_1)
✔️Ответ: Tarantool — это база данных с открытым исходным кодом и высокой производительностью, которая сочетает в себе функциональность базы данных и сервера приложений. Tarantool состоит из:
In-Memory и Disk Storage: Tarantool предлагает возможность хранения данных как в оперативной памяти (In-Memory), так и на диске (Disk Storage). Это позволяет обеспечить высокую скорость доступа к данным и сохранить данные на долгосрочное хранение.
Lua: Tarantool использует язык программирования Lua для создания хранимых процедур (stored procedures), триггеров и бизнес-логики. Lua обеспечивает гибкость и простоту внедрения пользовательского кода в базу данных.
NoSQL и Lua Spaces: Tarantool поддерживает гибкую модель данных, известную как Lua Spaces. Lua Spaces предоставляет простой способ хранения и извлечения данных, а также мощные возможности индексирования и поиска.
t.me/DenoiseLAB (Еесли вы хотите быть в курсе всех последних новостей и знаний в области анализа данных)
❓100 Вопросов по Машинному обучению (Machine Learning) - Вопрос_9
🔠Вопрос_9: В чем разница между Rapids, Vaex, Pandas, Polars, Modin, Dask они же все для анализа данных ?
✔️Ответ:
Pandas предоставляет гибкие структуры данных, такие как DataFrame, и мощные инструменты для манипуляции, фильтрации, агрегации и анализа данных. Pandas обычно используется для работы с небольшими и средними объемами данных, которые могут поместиться в оперативную память одного компьютера;
Dask позволяет обрабатывать данные, превышающие объем доступной оперативной памяти, с использованием распределенных вычислений. Dask предоставляет абстракции, такие как DataFrame и Array, которые подобны структурам данных из Pandas и NumPyx;
Polars обладает высокой производительностью благодаря использованию Rust в своей реализации, а также предлагает возможности параллельной обработки данных. Она может работать с большими объемами данных и поддерживает некоторые распределенные вычисления;
Vaex использует ленивые вычисления и эффективные алгоритмы для выполнения операций над данными. Она обладает высокой производительностью и может работать с многопоточностью, многопроцессорностью и распределенными вычислениями;
Modin предоставляет интерфейс, совместимый с Pandas, но с оптимизированной производительностью. Она использует различные движки обратной совместимости, такие как Dask и Ray, для распределенных и параллельных вычислений.
