Аннотация:Данная работа, объемом 20 страниц, относится к важному направлению теории машинного обучения. А именно, изучается взаимосвязь поиска минимального достаточного представления данных с определенной задачей оптимизации. Речь идет о выборе модели байесовской нейронной сети и использовании кросс-энтропийной функции потерь. Это позволяет контролировать переобучение. Основную роль играет поведение оценок взаимной информации весов нейронной сети и обучающих данных.