Технический директор Arcee AI Лукас Аткинс не считает китайские модели с открытыми весами изначально более опасными при локальном развертывании, следует из его комментариев TechCrunch.
Аткинс пояснил, что open-weight модель и полностью открытое программное обеспечение — не одно и то же: веса доступны пользователю, но данные и методы обучения обычно не раскрываются. При этом серверный код для запуска модели можно проверять.
«По сути, эти модели обучаются не так. Ни Arcee, ни Alibaba не могут создать модель, дать кому-либо запустить ее в собственной среде и затем получить к ней какой-либо доступ», — Лукас Аткинс, технический директор Arcee AI.
По его словам, крупным организациям все равно нужно проводить собственную проверку безопасности. Она может включать анализ предвзятости, токсичности, галлюцинаций, чувствительных тем и кода, который используется при развертывании.
«Нет причин, по которым достаточно квалифицированный участник не мог бы обучить модель быть отличным инструментом для программирования почти всегда, но при определенном типе кодовой базы могло бы сработать скрытое обучение. Я не знаю, как это можно было бы сделать», — Лукас Аткинс, технический директор Arcee AI.
Этот пример Аткинс назвал теоретическим. Его позиция относится прежде всего к риску скрытого удаленного доступа после локального запуска и не означает отсутствия других угроз, включая вредоносные ответы модели или уязвимости цепочки поставки.
Arcee разрабатывает американскую альтернативу китайским моделям и одновременно использует результаты открытой экосистемы. Поэтому заявление компании отражает также ее коммерческую позицию на рынке.
