Гарри Тан из Y Combinator предложил США перенять дистилляцию у Китая

Генеральный директор Y Combinator Гарри Тан заявил, что регуляторы не должны препятствовать китайским лабораториям искусственного интеллекта, которые используют дистилляцию для извлечения знаний у производителей пограничных моделей. Более того, он считает, что американским лабораториям ИИ, возможно, стоит играть в ту же игру.

«Я бы ничего не сделал, — сказал он в интервью CNBC в начале этой недели. — Мы могли бы утверждать, что должен быть американский режим дистилляции».

Он уточнил TechCrunch, что это означает, что он хочет, чтобы небольшие американские лаборатории ИИ с открытым весом использовали те же методы обучения в американских пограничных лабораториях ИИ, предоставляя США более надежный набор вариантов с открытым весом, которые не являются китайскими.

Дистилляция — это когда производитель моделей активно подсказывает другую модель, чтобы узнать, как она работает и причины. Он обычно и законно используется лабораториями искусственного интеллекта для обучения новых моделей.

Что Anthropic говорит о дистилляции?

Anthropic на этой неделе опубликовала свой второй отчет, в котором утверждается, что китайские лаборатории занимаются «незаконными дистилляционными атаками», скрывая свои личности для дистилляции без разрешения и полагаясь на мошенничество и украденные учетные данные для этого. Генеральный директор Anthropic Дарио Амодей ранее публично призвал американские регуляторы бороться с дистилляцией.

Примечательно, что командир престижного и плодовитого стартап-акселератора Силиконовой долины не согласен с этим.

Чего именно хочет Гарри Тан?

Чтобы было ясно, Тан не выступает за то, чтобы американские лаборатории искусственного интеллекта использовали украденные учетные данные для дистилляции. Он хочет, чтобы они могли свободно войти в парадную дверь. На самом деле, его аргумент двоякий. Он считает, что для лабораторий ИИ слишком сложно диктовать, что их клиенты могут делать с информацией, которой их модели делятся с ними.

Он также отмечает, что проприетарные лаборатории искусственного интеллекта не спрашивали разрешения, когда они использовали как можно больше человеческих знаний для обучения своих моделей. Они, как известно, проглотили много материалов, защищенных авторским правом, без разрешения владельцев интеллектуальной собственности.

«Контролирование того, что пользователи и клиенты делают с API-интерфейсами для моделей с закрытым весом, чувствует себя сдерживающим, и здесь может сыграть роль правительство, чтобы нормализовать тот факт, что доступ к разведданным, которые были обучены на данных широкого публичного доступа, сам по себе должен быть скорее формой общественного блага, чем чем-то, запертым за ограничительными условиями обслуживания», — сказал он TechCrunch, когда его спросили, почему американские лаборатории должны быть свободны для дистилляции.

Зачем нужен баланс между лабораториями?

Тан, который сам является таким заядлым пользователем ИИ, что однажды назвал себя кибер-психозом, хочет увидеть баланс между лабораториями ИИ с открытым весом и пограничными лабораториями.

«Они находятся на границе и двигают ее вперед. Мы хотим, чтобы это финансировалось и было отличной бизнес-моделью, — сказал он CNBC. — Вы хотите, чтобы модели с открытым весом давали людям свободу и доступ.

Для него истинный сценарий обречения ИИ заключается в том, чтобы вся огромная сила пограничного ИИ оказалась в руках одного мощного, проприетарного провайдера. «Кошмарный сценарий, обреченный сценарий для ИИ заключается в том, что есть только одна компания», — сказал он. — «У нее лучший доступ к капиталу». У него лучшие исследователи ИИ. Он убегает вместе с ним, и вдруг появляется одна компания, которая является монолитной. И это было бы плохо».

Вопросы и ответы

Что именно Гарри Тан предлагает разрешить американским лабораториям?

Тан хочет, чтобы небольшие американские лаборатории с открытым весом могли свободно использовать дистилляцию для обучения на американских пограничных моделях, но без кражи учетных данных. По его мнению, это даст США больше некитайских открытых моделей.

Как Anthropic относится к дистилляции китайскими лабораториями?

Anthropic в своем втором отчете утверждает, что китайские лаборатории проводят «незаконные дистилляционные атаки», скрывая личности, используя мошенничество и украденные учетные данные. Генеральный директор Дарио Амодей призывал американских регуляторов бороться с дистилляцией.

Почему Тан считает, что проприетарные лаборатории не должны диктовать правила использования их моделей?

Тан отмечает, что проприетарные лаборатории сами обучали модели на огромных объемах человеческих знаний и защищенных авторским правом материалов без разрешения. Поэтому контроль над тем, что клиенты делают с API закрытых моделей, он считает сдерживающим.