Беспрецедентное погружение Anthropic в исследование поведения искусственных нейронных сетей
Финансы Беспрецедентное погружение Anthropic в исследование поведения искусственных нейронных сетей 18 мин назад Биткойн Эфириум Новости Сделав колоссальный шаг к разгадке тайн искусственного интеллекта, Anthropic PBC объявила о прорыве, который может переопределить ландшафт развития ИИ. Целью их открытия является понимание сложного и часто непредсказуемого поведения искусственных нейронных сетей — важнейшего элемента, способствующего эволюции алгоритмов искусственного интеллекта. Это новое понимание обещает не только повысить безопасность и надежность будущего ИИ, но и предоставить разработчикам беспрецедентный контроль над действиями своих моделей. Расшифровка нейронной загадки Инновационные исследования Anthropic сосредоточены на загадочной природе искусственных нейронных сетей, проводя параллели между проблемами, с которыми сталкиваются разработчики ИИ и нейробиологи при постижении человеческого мозга. Суть проблемы заключается в непредсказуемости нейронных сетей, которые, хотя и обучены на данных, не имеют последовательных правил, что приводит к разнообразному поведению. Эта непредсказуемость долгое время мешала исследователям контролировать модели ИИ, приводя к периодическим «галлюцинациям», когда модели генерируют неточные ответы. Подход Anthropic предполагает тщательное исследование отдельных нейронов с целью выявления небольших единиц, называемых особенностями, внутри каждого нейрона. Эти особенности, утверждают исследователи, лучше соответствуют закономерностям активации нейронов, предлагая более интерпретируемое понимание поведения нейронных сетей. В эксперименте с небольшой языковой моделью-трансформером компания Anthropic разложила 512 искусственных нейронов на более чем 4,000 признаков, представляющих различные контексты, такие как последовательности ДНК, юридический язык и утверждения