Полезные материалы для начинающих ML-специалистов

Публикуем большую подборку полезных материалов для начинающих ML-специалистов. Здесь вы найдете ссылки на проверенные курсы, блоги, книги и другие хорошие источники, которые помогут лучше разобраться в области deep learning и компьютерного зрения.

Читайте, добавляйте в закладки и делитесь с единомышленниками!

Бонусный совет: присоединяйтесь к slack-каналу ODS.ai — это крупнейшее русскоязычное сообщество data science специалистов, насчитывающее более 50 тысяч участников со всего мира. Внутри — обсуждение различных интересных задач, обзоры статей, ссылки на образовательные курсы, поиск работы и сотрудников, базы дата-сетов и, конечно, общение с другими энтузиастами сферы.

Курсы

• Нейронные сети и компьютерное зрение: полный курс на Stepik (на русском);
• Deep Learning на пальцах: курс, видео лекции от Семена Козлова;
• CS231n: Convolutional Neural Networks for Visual Recognition от Stanford University: тексты курсов, видео лекций;
• ODS.ai курс: https://mlcourse.ai;
• Statistical Learning: enroll, video lectures. Основы ML (regression, svm, feature selection, bias-variance tradeoff) от Тревора Хасти, изобретателя LASSO регрессии;
• Algorithms 1, 2: enroll. Один из авторов — Роберта Седжвика, автора известнейшей книги по алгоритмам;
• Stanford CS224n: Natural Language Processing with Deep Learning: materials;
• Нейронные сети и обработка текста: курс по DL в NLP на Stepik;
• DMIA: Data Mining in Action: сайт, видео лекции;
• Основы статистики: часть 1, 2, 3;
• Введение в Data Science и машинное обучение: курс;
• Программирование на языке C++: часть 1, 2;
• Академия Яндекс: Школа Анализа Данных, видео лекции, Машинное обучение (курс лекций от Константина Воронцова).

Больше курсов на русском:

• Stepik, CS Center, Lektorium.

Больше курсов:

• Coursera, Stanford Online, Udacity.

Блоги

• Блог Christopher Olah: https://colah.github.io/. Содержит известнейший пост про рекуррентные сети “Understanding LSTM Networks”;
• Блог Andrej Karpathy: http://karpathy.github.io/. Источник той самой оценки уровня  точности человека в соревновании по классификации ImageNet: “How AI beats humans on ImageNet”. Так же есть пост с интересными экспериментами с рекуррентными сетями: “The Unreasonable Effectiveness of Recurrent Neural Networks”;
• LearnOpenCV. Там можно найти, например, основы PyTorch, как собрать OpenCV 4 на Raspberry Pi или про калибрацию камере в OpenCV;
• Distill.pub. Содержит, например, пост про checkerboard паттерн, который может появиться при использовании deconvolution операции в сети;
• Блог Pete Warden про Low-power CV. Рекомендуемая статья: Why gemm is at the heart of deep learning?;
• Агрегатор ссылок. В категории deep_learning можно найти списки статей для разных задач компьютерного зрения. Пример: список OCR papers;
• https://vas3k.ru/ - блог про IT в целом, можно найти релевантные лонгриды про технологии в камерах современных телефонов, а также про AR.

А также отдельные блог посты:

• An overview of gradient descent optimization algorithms;
• A guide to convolution arithmetic for deep learning.

Книги

• Computer Vision: Algorithms and Applications by Richard Szelinski;
• Fluent Python: Clear, Concise, and Effective Programming;
• Deep Learning от таких экспертов, как Ян Гудфеллоу, Иошуа Бенджио и Аарон Курвилль;
• С. Николенко - Глубокое обучение. Погружение в мир нейронных сетей;
• Machine Learning Yearning от Andrew Ng. Рассказаны хорошие практики организации экспериментов. Можно также скачать на GitHub.

Соревнования

• https://www.kaggle.com;
• https://www.drivendata.org;
• Больше ссылок и анонсов в ODS.ai.

Papers, code feeds

• Все новые статьи собираются здесь;
• Здесь можно найти открытый state-of-the-art код;
• Список лучших CV/DL конференций.

И еще немного подборок на русском языке:

• Подборка от "Библиотеки программиста";
• 15 книг по машинному обучению для начинающих;
• Большая подборка ресурсов по машинному обучению от Екатерины Демидовой;
• Телеграм-каналы об анализе данных, data science и machine learning;
• Хорошие тематические youtube-каналы.

Если вы знаете другие ресурсы или материалы, которых нет в списке — делитесь в комментариях!