Нобелівку з фізики вручили за внесок у теорію нейронних мереж
До речі, я тут розбирався за шо в цьому році нобелівку давали і розібрався. Зараз вам розкажу максимально простими і асбсолютно не надійними словами. Тобто я можу бути не правий і просто сам так зрозумів.
Як вам відомо, нобелівку з фізики вручили пану Гопфілду та пану Гінтону за значний внесок у розвиток нейронних мереж. А де ж тут фізика, спитаєте ви? Зараз розкажу.
Для початку, що таке нейронна мережа. У найпростішому вигляді це матриця або граф, де вершини такого графа взаємодіють між собою і можуть передавати певне значення, при чому ребра графа можуть це значення змінювати. Тобто граф все таки орієнтовний і ребра несуть інформацію з конкретної вершини до іншої конкретної. (фото 2) Загалом, це все що вам потрібно знати про структуру нейронних мереж. Нейронні мережі у фізиці це загалом така собі ідея описати та формалізувати процеси у мізках людини і глянути шо вийде. У 1950-х це вже розробляли, абсолютно не прикладна штука, яка не робила нічого корисного, але всім було цікаво.
Перші моделі нейромереж були дискретними і по суті значення, яке вони передавали було 0 чи 1. Ідея була в тому, що така система не є стабільною і повинна вміти навчатись (ну як нейрони у мізках), тобто те як вершини між собою пов'язані і які маніпуляції відбувають у певних ребрах повинно налаштовуватися в процесі навчання, щоб воно виводило нормальний результат.
Наш герой, пан Гопфілд фізик з США, у 1982 році він запропонував нову модель нейронної мережі (ті вже існували загалом) в якій запропонував записувати направленість зв'язків між нейронами за допомогою феромагнетиків. Це такі магніти, яких можна спеціальними маніпуляціями направити і вони запам'ятовують свій напрям. Подібна історія викоритовувалась на касетах, щоб записувати на них інформацію і хто старий, то знає що касету можна зіпсувати розмагнітивши. Коротше, ідея застосовувати ці феромагніти здалась всім дуже вдалою, адже тоді модель почала мати більш прикладний та природній характер і її простіше було б реалізувати на практиці. По суті не треба було розміщувати нейрони геометрично, сам напрям намагніченого нейрона мав вказати з ким він пов'язаний.
Як це виглядає на практиці. По суті при вхідних даних мережа оборобляла їх таким чином, Гопфілду вдалося підсовувати своїй неромережі певні значення, які давали цій мережі стабільні стани і коли на вхід цій мережі давали трохи більш хаотичний стан, то вона поверталась до одного з своїх запам'ятованих стабільних станів, що був їй найближчий. Приклад на картинці 3, хаос значень перетворюється у знайомий нам символ.
Наш другий герой, пан Гінтон розвинув ідею. Він запропонував не скочуватись в остаточний стан мінімальної енергії, як у Гопфілда, а за допомогою розподіленню Больцмана (взагалі навіть не гуглив що це) його нерони ніби як роблять кроки у напрямку більш стабільної системи, але при цьому схильні не точно відтворювати об'єкт з пам'яті, а робити щось схоже в залежності від наданої інформації. По суті, ця модель Гінтона була здатна видавати свій власний не існуючий до цього результат, але який виходив достатньо гармонійним. На жаль, через брак вичіслювальних потужностей реально значних результатів досягти не вдалося.
Але, коли нейронні мережі знову отримали популярність вже у 21 сторіччі саме моделі цих вчених стали певною основою та поштовхом для технології, хоча в чистому вигляді їх моделі вже не побачиш, все пішло надто стрімко. Тим не менш, от вам фізики, які внесли дуже значний внесок на настільки поширений та важливий інструмент сучасності.
Вдалося коротко і зрозуміло розказати?
