- Сан-францисская лаборатория Goodfire привлекла $150 млн в раунде Series B с оценкой компании в $1,25 млрд.
- Goodfire впервые выявила новый класс биомаркеров болезни Альцгеймера, анализируя внутренние механизмы нейросети.
- Компания разработала методики редактирования поведения языковых моделей, что позволило вдвое снизить количество их ошибок (галлюцинаций).
Стартап Goodfire, специализирующийся на интерпретируемости искусственного интеллекта, привлёк $150 млн в рамках раунда Series B, оценив компанию в $1,25 млрд менее чем через год после предыдущего раунда финансирования. Инвестиции возглавил фонд B Capital, а среди заметных инвесторов числятся Salesforce Ventures, бывший CEO Google Эрик Шмидт, DFJ Growth и Lightspeed. Благодаря этому Goodfire стал первым единорогом в области изучения внутреннего устройства нейросетей и объяснения их решений.
Главным научным достижением стартапа стало открытие нового класса биомаркеров болезни Альцгеймера. Используя свой метод реверс-инжиниринга, исследователи Goodfire применили алгоритмы к эпигенетической модели Pleiades, созданной компанией Prima Mente для анализа бесклеточной ДНК из крови. Впервые обнаружен важный диагностический признак — длина фрагментов ДНК, который ранее не рассматривался как значимый в научных публикациях для выявления Альцгеймера. Это знаменательное достижение в естественных науках, достигнутое благодаря пониманию работы ИИ «изнутри».
Помимо биомаркеров, Goodfire разрабатывает технологии точечного редактирования поведения языковых моделей без необходимости полного переобучения. В частности, компания научилась изолированно корректировать компоненты нейросети, отвечающие за нежелательное поведение, что в одном из экспериментов позволило сократить количество галлюцинаций больших языковых моделей вдвое.
В штате Goodfire около 40 сотрудников. Сооснователь Том Макграт ранее возглавлял команду интерпретируемости в DeepMind и успешно извлек новые шахматные концепции из AlphaZero, которыми впоследствии обучали гроссмейстеров. Совместно с ним работает Ник Каммарата, ранее стоявший у истоков аналогичного направления в OpenAI. Лаборатория сотрудничает с такими организациями, как Mayo Clinic, Arc Institute и Microsoft.
Генеральный директор Эрик Хо в интервью Bloomberg подчеркнул, что индустрия искусственного интеллекта сейчас действует «довольно безрассудно», поскольку многие механизмы новых моделей остаются непонятными. Goodfire позиционирует себя как исследовательская компания нового типа — «неолаб», которая фокусируется не на увеличении масштабов ИИ, а на глубоком понимании его работы. По словам Хо, ИИ находится на стадии, сравнимой с эпохой паровых машин до появления термодинамики: технология работает, но фундаментальная наука, объясняющая её принципы, пока отсутствует.
