Институт AISecurity присоединился к международной коалиции, направленной на исследование поведения и контроля искусственного интеллекта (ИИ). Департамент науки, инноваций и технологий (DSIT) сообщил, что институт будет участвовать в проекте Alignment Project вместе с Канадским институтом безопасности ИИ, Schmidt Sciences, Amazon Web Services, Anthropic, Halcyon Futures, Safe AI Fund, UK Research and Innovation и Агентством по передовым исследованиям и изобретениям (ARIA).
Проект предоставит финансирование в размере 15 миллионов фунтов стерлингов для исследований в области выравнивания ИИ. Эта область исследований направлена на разработку методов, гарантирующих, что системы ИИ продолжают следовать нашим целям по мере развития технологий, а также на поиск техник, обеспечивающих прозрачность и управляемость систем ИИ.
DSIT подчеркнул, что современные методы контроля ИИ могут оказаться недостаточными для более мощных систем будущего, и необходимы координированные глобальные усилия для обеспечения долгосрочной безопасности граждан.
Финансирование будет направлено под руководством экспертного консультативного совета и предоставлено на трех уровнях поддержки. Один уровень предложит до 1 миллиона фунтов стерлингов для исследователей из различных дисциплин, от компьютерных наук до когнитивной науки. Другой уровень предоставит доступ к вычислительным ресурсам от AWS и Anthropic для проведения технических экспериментов. Также будет создан фонд венчурного капитала для ускорения коммерческих решений в области выравнивания.
Партнерские возможности
DSIT добавил, что правительства, филантропы и промышленные партнеры могут присоединиться к проекту Alignment Project, предоставляя гранты на исследования, облачные вычислительные ресурсы или венчурное финансирование для стартапов, решающих проблемы выравнивания.
Министр науки, инноваций и технологий Питер Кайл сказал: ‘Передовые системы ИИ уже превосходят человеческие возможности в некоторых областях, поэтому крайне важно продвигать исследования, чтобы гарантировать, что эта трансформационная технология действует в наших интересах’.
Главный ученый института AISecurity Джеффри Ирвинг отметил: ‘Выравнивание ИИ — одна из самых срочных и недооцененных проблем нашего времени’.
—
📰 Источник: ukauthority.com
Адаптировано и переведено с оригинала
