Władze Singapuru ostrzegły przed ryzykiem związanym z osobistymi agentami AI — Channel NewsAsia

Władze Singapuru ostrzegły użytkowników osobistych agentów AI przed przyznawaniem takim usługom szerokiego dostępu do aplikacji i kont internetowych. Wspólne zalecenia opublikowały 6 listopada Agencja Cyberbezpieczeństwa Singapuru (CSA), GovTech oraz Urząd Rozwoju Infokomunikacji i Mediów (IMDA), poinformował Channel NewsAsia.

Instytucje zaznaczyły, że osobiste agenty AI, w odróżnieniu od zwykłych chatbotów, mogą działać w imieniu użytkownika. Mogą łączyć się z pocztą elektroniczną, kalendarzem, kontaktami, plikami i innymi usługami, przeglądać strony internetowe, zarządzać e-mailami i dokonywać rezerwacji. Jako przykłady takich agentów wymieniono Dots, Hermes, Muse, Grok Bot i OpenClaw.

Dostęp tylko do potrzebnych usług

W zależności od przyznanych uprawnień agent AI może uzyskiwać dostęp do wrażliwych danych osobowych i je ujawniać, popełniać błędy lub wykonywać działania niepożądane przez użytkownika — ostrzegły instytucje. Niektóre agenty mogą również działać w tle, a złośliwi aktorzy mogą próbować wprowadzić je w błąd za pomocą szkodliwych instrukcji ukrytych na stronach internetowych, w e-mailach lub wiadomościach.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Użytkownikom zaleca się podłączanie wyłącznie tych aplikacji i kont, które są rzeczywiście potrzebne do konkretnego zadania, oraz — jeśli to możliwe — dalsze ograniczanie dostępu w ramach każdej usługi. Nie zaleca się przyznawania agentom dostępu do kont bankowych, rządowych ani medycznych, a także przekazywania im danych kart kredytowych, haseł, kodów dostępu czy jednorazowych kodów weryfikacyjnych.

Kontrola ważnych działań

Instytucje zalecają rozpoczęcie od ograniczonych uprawnień lub trybów tylko do odczytu oraz wymaganie odrębnego potwierdzenia przed działaniami, które mogą mieć istotne konsekwencje. Dotyczy to w szczególności wysyłania wiadomości, usuwania plików, publikowania treści lub dokonywania zakupów. Uprawnienia należy zmieniać w ustawieniach aplikacji, a nie polegać wyłącznie na poleceniach przekazanych agentowi na czacie.

Użytkownikom zaleca się również regularne sprawdzanie przyznanych dostępów i danych uwierzytelniających, cofanie niepotrzebnych uprawnień oraz monitorowanie aktywności agentów. Jeśli usługa zachowuje się nieoczekiwanie lub istnieje podejrzenie ujawnienia informacji, należy przerwać bieżące zadanie, odłączyć powiązane konta i sprawdzić zmiany, których użytkownik nie dokonał. Władze podkreśliły, że w zależności od okoliczności i mającego zastosowanie prawa użytkownicy mogą ponosić odpowiedzialność za działania wykonane przez agentów w ich imieniu.