Общество «Знание» выступило соорганизатором встречи академика РАН со студентами Якутии
Известно, что человечество испытывает некоторый страх перед искусственными нейронными сетями, вызванный неизвестностью и потенциальными рисками, но грамотное регулирование, этические стандарты и образование могут помочь использовать умные алгоритмы во благо, а не во вред.
С точки зрения опасностей, можно «окуклиться» и сказать: «Не пустим искусственный интеллект ни на шаг». Но мы просто отстанем от жизни, потому что развитие неизбежно. И даже если ты чувствуешь опасность, все равно правильнее в этом участвовать, участвовать активно, чтобы эту опасность лучше чувствовать и предупреждать то плохое, что может произойти,
– рассказал лектор.
В качестве примера Александр Сергеев привел цитату академика Андрея Сахарова: «Прогресс неизбежен, его прекращение означало бы гибель цивилизации».
Еще одной яркой иллюстрацией использования современных технологий на более высоком уровне стала возможность проверки дипломных работ студентов на оригинальность текста, то есть использовать нейросети как инструмент для анализа контекста, подбора идей и материала.
Давайте разрабатывать наши системы, привлекать наших айтишников, компьютерщиков чтобы распознать, сколько здесь от интеллекта компьютера и сколько привнес интеллект того человека, который это представляет,
– считает академик.
Александр Сергеев напомнил, что действие рождает противодействие, а значит нужно создавать такие меры противодействия, которые, с одной стороны, будут ограничивать, а с другой стороны, выводить на более высокий уровень владение искусственным разымом.
Если работа ИИ будет проводится с использованием фейковой информации, что мы с вами получим в результате? Система станет давать нам неправильные результаты. Мы живём в эпоху, когда информация, которую мы получаем, зачастую неправдива. Сейчас существуют технологии монтажа на уровне единичных пикселей в изображении, способные кардинальным образом изменить результат,
– рассказал лектор.
В качестве решения Александр Сергеев видит создание такого продукта, который сам узнает, реальная это картинка или туда что-то вмонтировано. Это и есть самый высокий уровень науки – доверенный искусственный интеллект – концепция, согласно которой интеллектуальные системы должны быть разработаны таким образом, чтобы обеспечивать надёжность, безопасность, эффективность и продуктивность при их использовании.
