В этом блоге вы узнаете, как программировать логистическую регрессию с нуля на Python.

Прежде чем перейти к коду, давайте разберемся с математикой логистической регрессии и обучением модели с использованием градиентного спуска .

Логистическая регрессия :

Название этого алгоритма — логистическая регрессия из-за логистической функции, которую мы используем в этом алгоритме. При этом мы линейно комбинируем входы (X) и веса/коэффициенты, чтобы получить результат (y).

Выходные данные этой модели масштабируются от 0 до 1, что действует как вероятность того, что точка данных принадлежит определенному классу. Мы используем сигмовидную функцию для достижения этой цели.

Привет! Ждать .

Просто выполните следующие шаги, и вы узнаете, как это работает.

1. Прежде всего, все входные данные умножаются на соответствующие веса и суммируются, и мы называем это взвешенной суммой .

3. Затем мы вычисляем потери, используя следующую функцию потерь.

Веса/коэффициенты — это размерный вектор, который мы должны изучить с помощью градиентного спуска. Теперь мы увидим, как узнать эти веса.

Градиентный спуск:

Градиентный спуск — это метод оптимизации, в котором мы используем градиент функции потерь для обновления наших весов. Теперь мы увидим, как обновить веса, используя это.

Покажите мне код:

Я реализовал класс логистической регрессии. В этом коде не реализована регуляризация.

Давайте построим несколько графиков, чтобы визуализировать, как модель обучается.

Это пока все. Если у вас остались вопросы, то пишите в комментариях.

Если вы новичок и хотите узнать, что такое калибровка , прочитайте этот блог .

Калибровка в машинном обучении