16.04.2017 в 21:54

Пишет  rakugan:

Темные тайны искусственного интеллекта


Люди уже могут создавать самообучающиеся системы искусственного интеллекта. Проблема в том, что зачастую сами создатели не знают, как эти системы работают и что у них в «голове».

По ссылке — интереснейшая статья на эту тему с сайта MIT Technology Review (журнал Массачусетского технологического института). Очень рекомендую.

Небольшой фрагмент:

«В 2015 году исследовательская группа медицинского комплекса Маунт-Синай в Нью-Йорке начала применять «глубинное обучение» [нейронных систем] к обработке обширной базы данных о пациентах, которая содержит сотни переменных, взятых из результатов анализов, посещений врача и т. д.

Полученная в результате программа, которую назвали «Глубинный пациент» (Deep Patient), обучалась на основе базы из примерно 700 тыс. пациентов. При тестировании оказалось, что она невероятно хорошо прогнозирует болезни. Без какого-либо экспертного руководства [со стороны человека] Deep Patient обнаружила паттерны, скрытые в больничных данных, которые указывали на возможное развитие у конкретных людей широкого спектра заболеваний, включая рак печени. «Существует много методов, которые позволяют прогнозировать болезни на основе имеющейся медицинской карты, — говорит Джоэл Дадли, возглавляющий исследовательскую группу в Маунт-Синай. — Но программа справилась с этим намного лучше».

В то же время Deep Patient таит немало загадок. Так, она отлично предвидит начало психических расстройств, таких, как шизофрения. Но поскольку шизофрению, как известно, трудно предсказать, Дадли задался вопросом, как с этим справляется нейронная сеть. Но он до сих пор этого не знает. Новый инструмент не дает представления о том, как он это делает.

А ведь если такие программы начнут использоваться практикующими врачами, они должны в идеале выдавать обоснования своих предсказаний, убеждать медиков в их точности и оправдывать, скажем, изменения в назначенном лечении. «Мы уже умеем строить эти модели, — с сожалением говорит Дадли, — но мы не знаем, как они работают».
Читать полностью: www.technologyreview.com/s/604087/the-dark-secr...

URL записи