Claude виконує провідну роль у 26% дослідницьких і розробницьких робіт Anthropic — Anadolu Agency
У Туреччині повідомили, що модель штучного інтелекту Claude бере на себе провідну роль приблизно у 26% дослідницьких і розробницьких завдань компанії Anthropic зі створення нових систем ШІ. Про це пише Anadolu Agency з посиланням на The Washington Post.
Різке зростання показника
Внутрішня оцінка Anthropic засвідчила, що Claude може виконати більшу частину завдання на основі загального запиту, тоді як люди здійснюють нагляд і визначають напрям роботи. Ще у лютому цей показник був фактично нульовим.
У компанії наголосили, що Claude наразі не працює повністю автономно в жодному з оцінених дослідницьких або розробницьких процесів. Водночас понад 90% її досліджень і розробок тепер здійснюються на рівні, коли модель або співпрацює з дослідниками, або виконує провідну роль.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Самовдосконалення та контроль агентів
Anthropic вважає швидке зростання показника можливим індикатором поступу до рекурсивного самовдосконалення — стану, за якого система ШІ зможе створювати досконаліших наступників за дедалі меншої участі людини. Компанія не уточнила, наскільки близькими до цього є нинішні системи.
Станом на серпень на найуживанішій внутрішній платформі Anthropic дослідницьку та інженерну роботу виконували близько 30 тисяч ШІ-агентів. Компанія заявила, що має системи моніторингу для виявлення потенційно проблемної активності агентів і передавання таких випадків на перевірку людям. Anthropic також закликала інших провідних розробників ШІ оприлюднювати подібні вимірювання.
Повідомлення з’явилося на тлі дискусії про безпеку штучного інтелекту після того, як генеральний директор Anthropic Даріо Амодеї закликав провідних розробників скоординовано уповільнити створення передових систем ШІ, щоб отримати більше часу для заходів безпеки.
