摘要：大量電動汽車用戶的無序充電可能造成電網負荷劇烈波動，危及電網的安全穩定。隨著電動汽車入網技術的應用，將電動汽車充電站及其周邊的分布式新能源發電聚合為虛擬電廠后進行優化調度，有助于改善電動汽車用戶充放電的經濟性及滿意度，同時提高分布式新能源的利用率，平抑電網負荷波動，但電動汽車充電站的整體充放電負荷是大量個體電動汽車用戶隨機行為的聚合，難以用數學模型描述。針對包含電動汽車的虛擬電廠，提出一種基于深度強化學習的交互式調度框架，以虛擬電廠內電動汽車用戶的總效益。虛擬電廠控制平臺作為智能體決策電動汽車個體的充放電動作，無需掌握個體詳細模型，而是通過與區域電網環境的交互，不斷學習和更新動作策略，從而克服集中式優化方法的局限性。該優化調度框架采用深度確定性策略梯度算法進行求解。仿真結果表明，與集中式優化方法相比，該優化算法提高了各電動汽車用戶的效益，并使電動汽車充放電負荷與分布式新能源發電協調配合實現削峰填谷，改善了虛擬電廠的整體運行性能。

關鍵詞：虛擬電廠；電動汽車；電動汽車入網技術；分布式新能源；

1.為什么要搭建虛擬電廠

大量電動汽車的無序充電不僅會影響電網的安全穩定運行，而且會給用戶造成經濟損失。事實上，電動汽車充電負荷不僅具有較大的調節彈性，而且可以基于電動汽車入網技術實現發電和用電側的角色轉換，具備很大的優化調度潛力。通過搭建虛擬電廠整合區域配電網中的電動汽車充放電負荷及分布式新能源發電資源，合理引導電動汽車用戶的充放電行為，不但可以降低電動汽車車主的充電費用，提高充電需求滿足程度，同時可使電動汽車充放電負荷與分布式新能源發電協調配合，提高新能源利用率，平抑虛擬電廠整體負荷的波動。虛擬電廠是電力系統中智能配電網運行的重要技術，通過創建一個虛擬電廠控制平臺，可以將配電網中的電動汽車充放電負荷與分布式新能源聚合為一個整體參與電網運行，更好地發掘電動汽車充放電負荷與分布式新能源的價值和效益。

然而，在上述包含電動汽車充放電負荷及分布式新能源的虛擬電廠中，電動汽車充電站的總負荷特性是大量個體電動汽車用戶隨機充放電行為的聚合，難以對其進行的數學建模和準確預測，這給傳統的基于負荷預測進行優化計算的集中式調度模式帶來了挑戰。解決這一難點的一種有效途徑是采用基于強化學習方法的交互式優化調度模式。該模式中，虛擬電廠控制平臺作為智能體，包含電動汽車個體用戶及分布式新能源的區域電網為智能體所在的環境。虛擬電廠控制平臺在不掌握電動汽車個體用戶詳細模型的情況下給出電動汽車個體的充放電動作決策，并通過與區域電網的交互評估當前決策的性能，不斷學習和更新動作策略，直至得到令人滿意的優化決策。基于智能體與環境之間信息交互的強化學習方法可以在缺乏數學模型的情況下模擬順序決策問題并獲得對環境的響應。這種基于強化學習的交互式調度模式克服了傳統集中式調度的局限性，有望在虛擬電廠優化調度中得到應用。

目前，國內外針對電動汽車充電優化調度的研究主要關注電網側和用戶側的經濟效益。第1類文獻提出將電動汽車充電負荷接入微電網：構建了一個包含風光、基礎負荷、儲能電池以及電動汽車代理商等對象的微電網，采用粒子群算法對電網經濟優化調度模型進行求解；構建了面向工業園區的包含電動汽車充電站的風/光/柴獨立微電網模型，通過混合整數線性規劃算法，采用Matlab的YALMIP工具包對模型進行求解。第2類文獻提出了針對電動汽車充電負荷的市場機制：提出了制定電力交易合約和兩級P賣的優化策略，通過搭建分層區塊鏈結構，提高了電網對區域內電動汽車充放電行為的優化調度；采用市場機制方法進行電動汽車充電量和本地負荷之間的協調調度，避免因負荷聚集而導致配電系統阻塞。另一類文獻提出了消納電動汽車充電負荷的虛擬電廠：采用粒子群優化算法，通過構建虛擬電廠對高比例新能源、電動汽車和可控電源的出力進行優化調度；構建了包含風電、光伏、微燃氣機組、儲能、基礎負荷和電動汽車負荷的虛擬電廠，制定了虛擬電廠與電動汽車用戶雙方經濟效益的主從博弈定價策略。

2構建實施

2.1 應用平臺構建

虛擬電廠平臺系統運行監測、系統運行管理、資源分析與建模、結算管理等功能部署于管理信息大區，交易申報與信息發布、可視化展示等功能部署于互聯網大區，方便外界資源接入，兩部分平臺之間通過強邏輯隔離裝置進行信息交互，分別簡稱為外平臺與內平臺。

外平臺作為聚合商與虛擬電廠用戶等社會資源的接入端口與申報發布端口，主要與智慧能源服務平臺、電力交易平臺、虛擬電廠用戶等交互；內平臺主要與電網資源業務中臺、數據中臺、調度系統、虛擬電廠用戶等交互。虛擬電廠運營平臺采用統一的虛擬電廠聚合商接口，各虛擬電廠聚合商可通過此架構基礎進一步與所管控虛擬電廠進行數據與指令交互，并可集成多類型微服務，例如綜合能源服務公司、電動汽車公司、第三方負荷聚合商等主體的

自建能量管理系統或管理平臺。

虛擬電廠運營平臺針對不同時間尺度的調控指令與交易、運營數據交互需求，設置不同的數據通路，包括信息上傳與需求計劃下發通路等。運營平臺與調度系統通過多道安全防護進行出力計劃與調節需求等數據交互，構建調控信息通路；運營平臺與智慧能源服務平臺、交易平臺通過相關技術支持功能進行市場信息、出清與結算數據等數據交互，構建市場信息通路。

針對輔助服務、需求響應、電能量交易等所需的數據交互類型，運營平臺代理進行交易申報，接收相應上級平臺發布的市場出清結果、調節需求或計劃曲線，通過預設的協調優化策略，將其分解下發至各虛擬電廠聚合商，在建設前期也可直接發送至底層虛擬電廠用戶，并進行實際運行情況的監測、接收、運行評估；此外運營平臺還通過交易數據通路，接收輔助服務市場的月度結算信息并分解下發至聚合商或虛擬電廠用戶。

2.2 試點應用

組織開展虛擬電廠試點參與平臺調峰、調頻的洽談、改造及接入，并逐步拓展接入多元資源的種類與規模，針對接入的聚合商或負荷資源開展調控業務的模擬運行，實現電源側與負荷側靈活資源的有效耦合利用與深度互動，以及光伏新能源棄限電量消納。

2.3 溝通推動政策出臺

溝通相關部門推動河北調頻輔助服務市場規則的出臺，確認虛擬電廠主體角色，鼓勵前期按照“報量不報價"的原則參與服務；后期根據電力現貨市場建設情況，推動虛擬電廠相關補貼政策出臺。一方面，規定可再生能源發電應盡量并網，并進一步完善現行的分時電價辦法，鼓勵和促進用電高峰時用戶節電和分布式能源發電。另一方面，應區別對待不同職能的虛擬電廠。

3 安科瑞智慧能源管理平臺助力虛擬電廠快速發展

3.1安科瑞智慧能源管理平臺

AcrelEMS 智慧能源管理平臺是針對企業微電網的能效管理平臺，對企業微電網分布式電源、市政電源、儲能系統、充電設施以及各類交直流負荷的運行狀態實時監視、智能預測、動態調配，優化策略，診斷告警，可調度源荷有序互動、能源全景分析，滿足企業微電網能效管理數字化、安全分析智能化、調整控制動態化、全景分析可視化的需求，完成不同策略下光儲充資源之間的靈活互動與經濟運行，為用戶降低能源成本，提高微電網運行效率。AcrelEMS 智慧能源管理平臺可以接受虛擬電廠的調度指令和需求響應，是虛擬電廠平臺的企業級子系統。

圖1 AcrelEMS 智慧能源管理平臺主界面

3.2平臺結構

系統覆蓋企業微電網“源-網-荷-儲-充"各環節，通過智能網關采集測控裝置、光伏、儲能、充電樁、常規負荷數據，根據負荷變化和電網調度進行優化控制，促進新能源消納的同時降低對電網的至大需量，使之運行安全。

圖2 AcrelEMS 智慧能源管理平臺結構

3.3平臺功能

3.3.1.能源數字化展示

通過展示大屏實時顯示市電、光伏、風電、儲能、充電樁以及其它負荷數據，快速了解能源運行情況。

3.3.2.優化控制

直觀顯示能源生產及流向，包括市電、光伏、儲能充電及消耗過程，通過優化控制儲能和可控負載提升新能源消納，削峰填谷，平滑系統出力，并顯示優化前和優化后能源曲線對比等。

3.3.3.智能預測

結合氣象數據，歷史數據對光伏、風力發電功率和負荷功率進行預測，并與實際功率進行對比分析，通過儲能系統和負荷控制實現優化調度，降低需量和用電成本。

3.3.4.能耗分析

采集企業電、水、天然氣、冷/熱量等各種能源介質消耗量，進行同環比比較，顯示能源流向，能耗對標，并折算標煤或碳排放等。

3.3.5.有序充電

系統支持接入交直流充電樁，并根據企業負荷和變壓器容量，并和變壓器負荷率進行聯動控制，引導用戶有序充電，保障企業微電網運行安全。

3.3.6.運維巡檢

系統支持任務管理、巡檢/缺陷/消警/搶修記錄以及通知工單管理，并通過北斗定位跟蹤運維人員軌跡，實現運維流程閉環管理。

3.4設備選型

除了智慧能源管理平臺外，還具備現場傳感器、智能網關等設備，組成了完整的“云-邊-端"能源數字化體系，具體包括高低壓配電綜合保護和監測產品、電能質量在線監測裝置、電能質量治理、照明控制、充電樁、電氣消防類解決方案等，可以為虛擬電廠企業級的能源管理系統提供一站式服務能力。

安科瑞系統解決方案還包含電力運維云平臺、能源綜合計費管理平臺、環保用電監管云平臺、充電樁運營管理云平臺、智慧消防云平臺、電力監控系統、微電網能量管理系統、智能照明控制系統、電能質量治理系統、電氣消防系統、隔離電源絕緣監測系統等系統解決方案，覆蓋企業微電網各個環節，打造準確感知、邊緣智能、智慧運行的企業微電網智慧能源管理系統。

3.5安科瑞充電樁云平臺系統功能

3.5.1智能化大屏

智能化大屏展示站點分布情況，對設備狀態、設備使用率、充電次數、充電時長、充電金額、充電度數、充電樁故障等進行統計顯示，同時可查看每個站點的站點信息、充電樁列表、充電記錄、收益、能耗、故障記錄等。統一管理小區充電樁，查看設備使用率，合理分配資源。

3.5.2實時監控

實時監視充電設施運行狀況，主要包括充電樁運行狀態、回路狀態、充電過程中的充電電量、充電電壓電流，充電樁告警信息等。

3.5.3交易管理

平臺管理人員可管理充電用戶賬戶，對其進行賬戶進行充值、退款、凍結、注銷等操作，可查看小區用戶每日的充電交易詳細信息。

3.5.4故障管理

設備自動上報故障信息，平臺管理人員可通過平臺查看故障信息并進行派發處理，同時運維人員可通過運維APP收取故障推送，運維人員在運維工作完成后將結果上報。充電用戶也可通過充電小程序反饋現場問題。

3.5.5統計分析

通過系統平臺，從充電站點、充電設施、、充電時間、充電方式等不同角度，查詢充電交易統計信息、能耗統計信息等。

3.5.6基礎數據管理

在系統平臺建立運營商戶，運營商可建立和管理其運營所需站點和充電設施，維護充電設施信息、價格策略、折扣、優惠活動，同時可管理在線卡用戶充值、凍結和解綁。

3.5.7運維APP

面向運維人員使用，可以對站點和充電樁進行管理、能夠進行故障閉環處理、查詢流量卡使用情況、查詢充電\充值情況，進行遠程參數設置，同時可接收故障推送

3.5.8充電小程序

面向充電用戶使用，可查看附近空閑設備，主要包含掃碼充電、賬戶充值，充電卡綁定、交易查詢、故障申訴等功能。

3.5.9系統硬件配置

1. 總結

電動汽車虛擬電廠是一種新興的電力系統調度模式，通過將大量分布式的電動汽車充電站整合成一個虛擬的集中式電廠，實現對電動汽車充電需求的優化調度。強化學習是一種機器學習方法，通過與環境的交互來學習如何在給定狀態下采取合適行動以實現目標。在基于強化學習的含電動汽車虛擬電廠優化調度中，可以采用以下步驟：

1. 狀態定義：首先需要定義系統的狀態，包括電動汽車的當前充電狀態、電池剩余電量、電網負荷等。此外，還可以考慮天氣、時間等因素。

2. 動作定義：在給定狀態下，可以定義一系列可能的動作，如調整充電功率、切換充電站等。這些動作會影響電動汽車的充電需求和電網的運行狀況。

3. 獎勵函數設計：為了引導強化學習算法朝著優化調度的目標前進，需要設計一個獎勵函數來衡量每個動作的價值。獎勵函數可以根據系統的實際運行狀況和調度目標來設計，如降低電網負荷波動、提高充電效率等。

4. 策略學習：通過與環境的交互，強化學習算法會學習到一個策略，即在給定狀態下選擇合適動作的方法。這個策略可以用于指導電動汽車虛擬電廠的優化調度。

5. 模型訓練與驗證：為了驗證所學習到的策略的有效性，可以將訓練好的模型應用于實際的電動汽車虛擬電廠系統中，觀察其調度效果。如果效果不佳，可以調整獎勵函數或策略，重新進行訓練和驗證。

6. 實時調度：在實際應用中，電動汽車虛擬電廠需要實時地根據當前的系統狀態和學習到的策略進行調度。

總之，基于強化學習的含電動汽車虛擬電廠優化調度可以實現對電動汽車充電需求的智能調度，降低電網負荷波動，提高充電效率，為電動汽車的大規模普及提供支持。

參考文獻

1. 李明揚，竇夢園. 基于強化學習的含電動汽車虛擬電廠優化調度

2. 吳巨愛，薛禹勝，謝東亮 .電動汽車聚合商對備用服務能力的優化

[3] 安科瑞企業微電網設計與應用手冊.2022.05版