Математики нашли принцип, объясняющий непредсказуемость обучения ИИ

Ученые из Сиднейского университета выяснили, почему даже крошечные изменения в обучении нейросетей приводят к непредсказуемым результатам. Оказалось, дело не во внешних факторах, а в самой математической природе ИИ. Об этом сообщает издание ТАСС.

Профессор Гун Пулинь отметил, что раньше различия в работе ИИ связывали с порядком данных или особенностями вычислений, но корень проблемы глубже. Исследователи сравнили обучение 500 тысяч простых нейросетей для распознавания изображений и текстов и обнаружили, что при идентичных условиях результаты могут радикально отличаться.

Даже изменение одного бита в одной переменной при инициализации нейросети ведет к серьезным переменам в обучении. Ученые вывели формулы, связывающие скорость обучения и предсказуемость через свойства фракталов, что накладывает фундаментальные ограничения на разработку ИИ.