Niedawno w naszym newsletterze zamieściliśmy link do wpisu byłych współpracowników OpenAI — Ilya Sutskever, Daniel Gross i Daniel Levy — zapowiadającego ich nową firmę, która skupi się na bezpieczeństwie sztucznej inteligencji.

W oświadczeniu opublikowanym w internecie podkreślają, że nowe przedsięwzięcie będzie stawiać na bezpieczeństwo, ochronę i postęp, niezależnie od krótkoterminowej presji komercyjnej.

Ta narracja brzmi jednak znajomo. OpenAI powstało pierwotnie jako organizacja non-profit mająca konkurować z należącym do Google DeepMind. Jej misją było transparentne rozwijanie „bezpiecznej i korzystnej” ogólnej sztucznej inteligencji (AGI). Obecność słowa „open” w nazwie OpenAI podkreślała to zobowiązanie.

Czy model non-profit to jedyne rozwiązanie?

OpenAI nie pozostało jednak długo organizacją non-profit, a Elon Musk odszedł jako pierwszy, wskazując na sprzeczności z pierwotnymi ustaleniami.

Choć Ilya Sutskever i jego współpracownicy prawdopodobnie kierują się autentyczną pasją i motywacją do stworzenia bezpiecznej AGI, nie są pierwszymi, którzy wyrażają obawy dotyczące zagrożeń i braku transparentności w szybkim rozwoju AI. W przeszłości pojawiały się już listy otwarte Anthropic dotyczące bezpieczeństwa AI oraz apele byłych pracowników OpenAI i DeepMind o większą transparentność i ochronę sygnalistów. Mustafa Suleyman również wypowiadał się na temat zagrożeń związanych z generatywną AI.

Dlaczego o tym wspominam? Przede wszystkim chcę wyrazić pełne poparcie dla inicjatyw mających zapewnić bezpieczeństwo, transparentność i odpowiednie zabezpieczenia AGI. Znaczenie tych działań jest niezaprzeczalne.

Historia pokazuje jednak, że bez komercjalizacji swoich rozwiązań takie inicjatywy mogą mieć trudności z osiągnięciem sukcesu.

Jako integratorzy rozwiązań również odpowiadamy za zapewnienie naszym klientom najlepszych rezultatów. Nie możemy polegać wyłącznie na tym, że inni wykonają pracę za nas, ani bezrefleksyjnie wdrażać AI bez sprawdzenia, czy nasze rozwiązania nie spowodują utraty danych lub naruszenia ich bezpieczeństwa u naszych klientów.

Jako inżynierowie oprogramowania jesteśmy łącznikiem między klientami końcowymi a dostawcami technologii. Naszym obowiązkiem wobec klientów jest bezstronne przedstawianie każdego możliwego rozwiązania wraz z jego zaletami i wadami, zawsze stawiając na pierwszym miejscu ich interesy i bezpieczeństwo.

Nasze podejście

W co.brick nieustannie zadajemy sobie pytanie, jak przygotować się na nieoczekiwane sytuacje lub przypadki, w których oprogramowanie tworzone przez nas na bazie komercyjnych LLM-ów mogłoby wyrządzić szkodę lub naruszyć lokalne przepisy.

Na przykład podczas pracy nad DocMarker, naszym prototypowym rozwiązaniem do weryfikacji koncepcji asystentów prawnych, przeprowadziliśmy wywiady z prawnikami i radcami prawnymi, aby poznać ich reakcje na nasze rozwiązanie. Proces ten ujawnił wiele pytań, których wcześniej nie braliśmy pod uwagę. Dzięki zrozumieniu ograniczeń związanych z ochroną danych z perspektywy lokalnego prawa (w Polsce) dopracowaliśmy listę LLM-ów i odpowiednio zaplanowaliśmy trenowanie modeli.

Bez bliskiej współpracy, wymiany pomysłów i kwestionowania własnych założeń stworzylibyśmy kolejne oprogramowanie pozbawione rzeczywistej wartości czy korzyści. Te wywiady i warsztaty nie tylko poszerzyły naszą wiedzę, lecz także pomogły naszym partnerom i klientom lepiej zrozumieć te kwestie. Właśnie w taki sposób, moim zdaniem, dokonuje się rzeczywisty postęp w kierunku bezpieczeństwa i transparentności. Można nazwać to działaniem oddolnym, ale zaczyna się ono pośrodku — w firmach programistycznych i agencjach, które są na pierwszej linii wdrażania nowych technologii.

Podsumowanie

Choć zaangażowanie znanych postaci w promowanie bezpiecznej i transparentnej AGI napawa optymizmem, my, jako inżynierowie oprogramowania, również musimy aktywnie wspierać te praktyki. Dzięki temu możemy uświadamiać naszym klientom i całemu społeczeństwu ograniczenia obecnych modeli AI oraz promować najlepsze praktyki na poziomie konkretnych działań.