Эксперты считают, что наиболее эффективным способом обеспечения безопасности ИИ может стать регулирование его "аппаратного обеспечения" - чипов и центров обработки данных, или "вычислителей", на которых работают технологии ИИ.
В докладе, подготовленном известными организациями, в том числе Центром безопасности ИИ (CAIS), Центром Леверхульма Кембриджского университета по изучению будущего интеллекта и OpenAI, предлагается создать глобальный реестр для отслеживания чипов ИИ и установить "лимиты вычислений" для поддержания баланса НИОКР между различными странами и компаниями.
Этот новый подход, ориентированный на аппаратное обеспечение, может быть эффективным благодаря физической природе микросхем и центров обработки данных, что делает их более удобными для регулирования, чем нематериальные данные и алгоритмы.
Гайдн Белфилд, один из ведущих авторов из Кембриджского университета, объясняет роль вычислительной мощности в исследованиях и разработках в области ИИ: "Суперкомпьютеры ИИ состоят из десятков тысяч объединенных в сеть чипов ИИ... потребляющих десятки мегаватт энергии".
Сайт отчетВ докладе 19 авторов, включая "крестного отца ИИ" Йошио Бенгио, подчеркивается колоссальный рост вычислительных мощностей, необходимых для ИИ, и отмечается, что самые крупные модели сейчас требуют в 350 миллионов раз больше вычислений, чем тринадцать лет назад.
Авторы утверждают, что экспоненциальный рост спроса на аппаратное обеспечение ИИ дает возможность предотвратить выход централизации и ИИ из-под контроля. Учитывая безумное энергопотребление некоторых центров обработки данныхНо это также может уменьшить растущее влияние ИИ на энергосистемы.
Проводя параллели с ядерным регулированием, другие, в том числе генеральный директор OpenAI Сэм Альтман (Sam Altman), использовались в качестве примера для регулирования ИИВ докладе предлагаются меры по повышению глобальной осведомленности о вычислениях с использованием ИИ, распределению вычислительных ресурсов в интересах общества и введению ограничений на вычислительные мощности для снижения рисков.
Профессор Дайан Койл, еще один соавтор, отмечает преимущества аппаратного мониторинга для поддержания конкурентного рынка, говоритМониторинг аппаратного обеспечения значительно поможет антимонопольным органам сдерживать рыночную власть крупнейших технологических компаний и тем самым открывать пространство для инноваций и новых участников".
Белфилд сформулировал основную мысль отчета: "Попытки регулировать модели ИИ по мере их внедрения могут оказаться тщетными, как погоня за тенью. Тем, кто стремится установить регулирование ИИ, следует обратить внимание на вычислительную технику - источник энергии, движущей революцию ИИ".
Подобные многосторонние соглашения требуют глобального сотрудничества, которое в случае с ядерной энергетикой было достигнуто благодаря масштабным катастрофам.
Череда инцидентов привела к созданию Международного агентства по атомной энергии (МАГАТЭ) в 1957 году. Затем было несколько проблем до Чернобыля.
Теперь планирование, лицензирование и строительство ядерного реактора может занять десять лет или больше, потому что процесс строго контролируется на каждом этапе. Каждая деталь тщательно проверяется, потому что страны коллективно понимают риски, как индивидуальные, так и коллективные.
Может быть, для того чтобы воплотить в жизнь идеи безопасности ИИ, нам также понадобится значительная катастрофа?
Что касается регулирования аппаратных средств, то кто возглавит центральный орган, ограничивающий поставки чипов? Кто будет определять соглашение, и может ли оно соблюдаться?
И как не допустить, чтобы те, у кого самые сильные цепочки поставок, получали выгоду от ограничений, наложенных на их конкурентов?
А как насчет России, Китая и Ближнего Востока?
Легко ограничивать поставки чипов, пока Китай полагается на американских производителей, таких как Nvidia, но так будет не всегда. Китай стремится стать Самодостаточность в плане аппаратного обеспечения ИИ в этом десятилетии.
Отчет на 100 с лишним страницах дает некоторые подсказки, и это кажется направлением, которое стоит изучить, хотя Чтобы принять такой план, потребуются не только убедительные аргументы.
