New York regulators have launched audits of AI use in public utility operations, citing risks from growing dependency on AI systems for critical infrastructure.

뉴욕 공공서비스위원회는 지난주 공공 유틸리티의 인공지능 활용에 대한 조사를 시작했다. AI 시스템이 "조직에 위험을 야기한다"고 지적했지만, 동시에 기본 업무 수행에 점점 더 많이 사용되고 있다고 밝혔다. 9월 17일 명령은 전기, 가스, 수도 공급사들이 60일 이내에 "운영 과정에서 AI 시스템의 모든 사용 사례를 설명하는 서면 목록 보고서"를 제출하도록 요구했다.

공공 유틸리티들은 점점 더 일상 운영에 AI 시스템을 배치하고 있으며, 뉴욕 규제 당국은 이러한 시스템이 "환각, 알고리즘 편향, 투명성 문제, 데이터 개인정보 보호 우려, 오류 설정, 사이버 공격, 그리고 기능적 취약성에 노출되어 있다"고 우려하고 있다. 위원회는 "이러한 잠재적 위험은 뉴욕의 중요 기반 시설의 안전성과 신뢰성에 부정적 결과를 초래할 수 있다"고 경고했다.

PSC의 명령은 공급사들에게 운영 과정에서 AI 사용 사례의 "완전한 목록"을 제출하고 "새로운 기술에 관한 정책, 절차 및 프로토콜을 공개"하도록 지시했다. 위원회는 "널리 인정된 AI 거버넌스 프레임워크에 대해 이러한 절차와 프로토콜의 적절성과 강건성을 평가할 것"이라고 밝혔다.

이 조사의 목적상 위원회는 "AI 시스템"을 "주어진 인간이 정의한 목표에 따라 실제 또는 가상 환경에 영향을 미치는 예측, 권장사항 또는 결정을 내릴 수 있는" 기계 기반 시스템으로 정의했다.

뉴욕 공급사들은 이미 여러 방식으로 AI를 활용하고 있다. National Grid는 대규모 부하 고객을 위한 상호연결 용량을 확보하기 위해 GridCARE라는 시스템을 배치했고, New York Power Authority는 드론으로 촬영한 데이터를 분석하여 식생 관리를 강화하기 위해 AI를 활용했다. 뉴욕시를 지역으로 하는 Consolidated Edison은 고객 서비스를 개선하고, 고객이나 공공 안전에 영향을 미치기 전에 잠재적 장비 문제를 사전에 파악하고, 점검 및 매핑 기능을 강화하기 위해 AI를 사용하고 있다. 한 회사 대변인은 "기술이 발전함에 따라, 우리는 계속해서 기회를 평가할 것"이라고 말했다.

그러나 규제 당국은 "뉴욕 공급사의 AI 시스템 운영 범위의 실제 규모와 범위가 여전히 불명확하다"고 지적했다.

PSC 회장인 Rory Christian은 이 상황을 공급사들을 위한 "양날의 검"이라고 표현했다. 그는 "AI는 비용 효율성 개선과 운영 개선을 가져올 수 있는 강력한 도구가 될 수 있지만, 적절히 평가하고 해결해야 하는 심각한 위험도 야기한다"고 말했다.