Нейросети заполонили нашу жизнь: они дают рекомендации на сайтах, что ещё интересного почитать, они обрабатывают фото и видео, они лечат и управляют финансами. Но никто не знает, как они работают
Давняя проблема нейросетей — они представляют результат, но не объясняют своё решение. Как они пришли к результату, понять невозможно. А сложность сетей такова, что человек пока не готов понять это.
Но существуют целые классы задач, когда важны не только полученный результат, но и способ решения. Это может быть интересно для решения нетривиальных многофакторных задач.
И вот учёным из Массачуссетского института технологий удалось создать алгоритм, заставляющий нейросеть описывать принцип решения. Теперь станет понятно, почему были приняты те или иные решения. А значит станет проще проектировать новые нейросети.
Вероятнее всего новый алгоритм позволит понять, как человек думает, а значит создать искусственный интеллект. Загадок всё меньше, а значит и технологическая сингулярность из теоретического события превращается во вполне близкое и осязаемое.
