szczęśliwej podróży

Firma modelu AI Anthropic niedawno ujawniła zaktualizowaną wersję swojej 'Konstytucji Claude'a', która jest teraz dostępna na licencji Creative Commons CC0 1.0. Według PANews, dokument ten służy jako 'najwyższa władza' do celów szkoleniowych, mających na celu generowanie syntetycznych danych szkoleniowych i ocenianie opinii zwrotnej. Konstytucja przeszła od wymieniania zasad do wyjaśniania ich uzasadnienia, co zwiększa jej zdolność do generalizacji w nowych sytuacjach.

Dokument priorytetowo traktuje szerokie bezpieczeństwo, etykę, przestrzeganie wytycznych i szczere wsparcie, określając 'sztywne ograniczenia', takie jak brak możliwości udzielania znacznej pomocy w przypadku broni biologicznej. Zawiera również sekcje dotyczące cnót, bezpieczeństwa psychologicznego i samoświadomości modelu, podkreślając przejrzystość i ciągłą iterację.