評估思考框架 BetterEvaluation Rainbow Framework

評估思考框架 BetterEvaluation Rainbow Framework



因最近稍微看了一點社會影響力的資料,介紹此主題的資源多偏向「評估、評量」討論,方才意識到自己對此方面的涉獵認識卻很不足(不曉得這是否反應了部份 NGO 工作「專案」一大堆,但業務告一段落後卻欠缺系統化檢討的評量?更遑論在工作開始之前先冷靜地評估投入某件事的必要性、替代手段或成本代價…..)。想起之前曾經提過 Hewlett Foundation 發佈的非營利組織能力評估工具整理資源(Assessing nonprofit capacity: A guide to tools),但一直沒動力好好用了解其中一二具代表性的評估方法。這陣子隨著摸索social impact 之勢頭,偶而瞥見了"Better Evaluation" 網站。或許先從一般性、通用性的評量思索、討論起手,了解別人家非營利組織(或營利公司、公務機構等….)如何推動評量檢討所思考的課題、所採取的步驟建議、所使用的方法,從中一探規劃評量之門檻吧。


Better Evaluation 網站收錄的資源非常豐富,第一次訪問該網站時大概會有一兩秒不知從何下手的大腦空白。Better Evaluation 計畫的啟動與維持團隊主力是來自南半球澳洲與紐西蘭政府資助的學術型非政府組織 ANZSOG ,Australia and New Zealand School of Government),此跨國型合作計畫宗旨在:透過創立/策劃擇取使用評估方法和過程之種種資訊(包括管理評估和加強評估能力),改進評估實踐和理論。

即便自己對規劃評估理論和操作再怎麼陌生,也知道外面花花世界早已存在許多研究機構、商管顧問、智庫 NPO 提出的各式評量評估方法,因為太多所以無知主要來自於沒有一個方向不知道從何下手去找到最符合自己(或組織)需求的評量工具吧。

BetterEvaluation 本身並不是眾多評估方法其中的某一個,它無寧是提供一個當事人在打算啟動評估念頭時會思考、應思考的種種問題,順著問題的對應脈絡,梳理出一套整理框架。在考慮問題、回應問題的同時,也是在釐清思路,索驥惦量評估該怎麼做。故此框架整理收集 34 個重要問題,再將之依屬性劃分成七大類進行分組群集(該好搭配七色彩虹取名為「Rainbow Framework 」),在 34 道題目底下會再提供更詳細的內容或提問方向,使用者可從豐富的資源當中,輕鬆又快速地針對不明白之處,找尋和挑選適當的方法,策略或流程。


看到官網提供了Rainbow Framework 精華簡化版的多語系翻譯文件卻未有中文,故多事地把簡要版正體中文翻譯如下

1. 管理評估/評量系統:管理評估(一個或一系列評估),包括決定誰將進行評估以及由誰來做出評估。
 * 了解且能吸引利益相關者:誰需要參與評估? 如何識別利益相關者和鼓勵其參與?
 * 建立決策過程:誰有權對評估做出某種類型的決策? 誰可提供評估建議? 將使用哪些流程來製定決策?
 * 決定由誰進行評估:哪些人實際負責評估之執行?
 * 決定和確保資源:需要哪些資源(時間,金錢和專業知識)、如何獲取這些資源? 請考慮內部(例如工作人員時間)和外部(例如先前參與者的時間)資源。
 * 定義道德和質量評估標準:什麼要素與標準才被視為高質量和道德評估? 如何解決道德問題?
 * 文件管理流程和協議:如何記錄評估的管理流程和協議?
 * 制定評估規劃文件:設計,規劃和實施評估需要做些什麼? 需要創建哪些規劃文件(評估框架、評估計劃、評估設計、評估工作計劃)?
 * 審核評估(進行詮釋評估 meta-evaluation):如何評估評估本身,包括計劃,流程和報告?
 * 培養評估能力:如何加強個人,團體和組織開展和使用評估的能力?

2. 決定評估內容:發展對評估內容及工作方式之描述(或採用現有版本)。
 * 制定初步說明:究竟在評估什麼?
 * 開發方案理論/邏輯模型:理解干預是如何奏效的(方案理論,變革理論,邏輯模型)?
 * 識別潛在的意外結果:在評估中,哪些可能的意外結果(正面和負面)很重要需要加以說明?

3. 界定評估範疇:設置評估的參數 — 其目的,關鍵評估問題以及要使用的規範和標準。
 * 確定主要目標用戶:誰是此評估的主要目標用戶?
 * 決定目的:評估的主要目的和用途是什麼?
 * 指定關鍵評估問題:評估將尋求回答的高級問題是什麼? 如何開發這些?
 * 確定”成功”的含義:判斷績效的標準和標準應該是什麼? 誰的標準和標準很重要? 應該用什麼過程來製定這些協議?

4. 描述相關活動、成果、影響力和關聯性 :收集和檢索數據,以回答有關項目/計劃/政策活動的描述性問題,各項結果以及實施的背景。 
 * 樣本:您將使用哪些採樣策略來收集數據?
 * 使用度量,指標或指標:將使用哪些度量或指標? 是否應該使用現有的或者您需要製定新的措施和指標?
 * 收集和/或檢索數據:您將如何收集和/或檢索有關活動,結果,背景和其他因素的數據?
 * 管理數據:您將如何組織和存儲數據並確保其質量?
 * 結合定性和定量數據:您將如何結合定性和定量數據?
 * 分析數據:您將如何調查數字或文本數據中的模式?
 * 可視化數據:您將如何直觀地顯示數據?

5. 了解成果和影響力之間因果:收集和分析數據,以回答觀察到發生的結果和影響之間的因果問題。 
 * 檢查結果支持因果歸責:如何評估結果是否與理論上預期干預的效果一致?
 * 將結果與反事實進行比較:如何將事實與反事實進行比較 — 若無干預介入,會發生什麼情況?
 * 調查可能的替代解釋:如何調查其他解釋?

6. 綜合評估的數據:合併數據以形成介入干預好處或價值之總體評估,或總結多個評估的證據。
 * 從單一評估中綜合數據:如何從單一評估中綜合數據?
 * 跨評估合成數據:是否需要從不同的評估眾綜合數據? 如果是,該怎麼做?
 * 概括調查結果:如何將此評估的結果推廣到未來,其他地方和其他計劃?

7. 報告與支援發現之利用:透過有效的方式向使用者呈現評估結果,協助他們進而利用、使用評估結果。
 * 確定報告要求:需要的時間範圍和格式?
 * 發展報告媒介:哪些類型的報告格式適合目標受眾?
 * 確保親近性:不同用戶如何輕鬆取用報告?
 * 制定建議:是否包含建議? 這些建議如何發展以及由誰負責?
 * 使用支援:除了讓目標使用者參與評估過程外,如何支持評估結果的使用?

無聊之餘多事地按簡要版文件格式作了二頁 pdf 檔供中文便於讀者直接下載,也許在編輯過的文件上更能呈現彩虹色譜的問題層次吧。




上述七大主題底下各子項的子項選項或方法的進一步說明都可以從網站找到連結資訊,例如主題一 1. 管理評估/評量系統底下的第一個問題選項:誰需要參與評估? 如何識別和參與?則會進一步對如何了解、如何與之互動提供進一步的說明相關:

* 了解利益相關者(誰需要參與評估? 如何識別利害相關者和鼓勵其參與?)
** 社群對象界定:從社會多樣性、歷史、現有網絡和整體社會經濟特徵等資訊,對相關利益社群進行更深入的了解。
** 利益相關者關係繪製和分析:識別各個利益相關者的利益和影響程度。

* 吸引利益相關者 (誰需要參與評估? 如何識別利害相關者和鼓勵其參與?)
** 社區/社群集會:組織社區/社群活動,提供項目相關資訊以提高其對相關問題的認識。
** Fishbowl Technique :Fishbowl Technique 是一種控制問題討論手段,它取代開放式的大群組討論,而是從中挑出5~6人,由代表的焦點小組在原大群群人前進行議題討論,其它人只能先暫時「圍觀」焦點小組。
** 正式會議進展:進行正式會議的指導。
** 非正式會議:評估者與關鍵利益相關者之間對話,以非正式方式進行,但仍和正式會議一樣尋求相同的結果。
** 啟動工作坊:主要利益相關者聚會,評估和建立評估準備。

若再點入 “社群對象界定 (community scoping)",就會進入另一頁更詳細的資料,包括 scoping 定義、進行這個動作的目標與預期的結果、操作此動作的建議、相關資源參考……。因為資訊量太大,想來就點到為止。建議 NGO/NPO 有興趣了解 PE (Plan and Evalation 規劃評估管理),可以先從簡要版的七大類 34 個問題開始思考,待對這些問題的回答稍有腹案把握後,想來對於為何、如何進行評估與評估後還該作什麼…..,應會有更清楚的方向吧。


除了每週二固定發佈一篇主題專文外,每週五另外再發表一篇網摘性質的非營利組織資訊週報 — 灰暗星期五,簡單分享筆者最近一週讀了什麼、看到什麼有趣的相關內容。若有任何建議或指教,可留言、來信或加入 TWNGO slack 安靜聊天室製造一點喧嘩的噪音。

https://liberapay.com/twngo.xyz

Data Management Plan Tool 資料管理規劃工具

Data Management Plan Tool 資料管理規劃工具


https://dmptool.org

為了每週交一篇「NGO 推進器」的功課,強迫呑食吸收各類國際上相關資訊,並將之轉化成中文,期讓多一點人知道國外的一些狀況。但寫多了自己也覺得有點無趣,忍不住想東想西地想試試弄點其它好玩的東西。最近打算在六月中旬再次推出開站以來連續第二年的「NGO 網路數位科技使用狀況調查」,目前正在擬定今年的執行細節以及題目內容等等。

依照這十八個月以來冥冥之中對於「NGO 推進器」定位上的直觀判斷,覺得這裏應該可以多多提供:全方位資安防範意識與資料數據的使用提醒兩大方向的數位技能資訊。故相對地也需要多了解本地 NGO 在數據管理政策、資訊安全防範落實的狀況 ,正在考慮如何將這些議題設計放入今年 NGO 網路問卷當中。

正思考這二大面向的問題時,剛好意外地看到了一個叫做「Data Management Plan Tool 」(下稱 DMPTool),試了一下還蠻有意思的,故簡單寫點介紹,以期對於台灣産官學以及 NGO部門各單位,參考如何利用它有條不紊系統化地應對資料數據的使用規劃。(是說,蠻好奇本地機構可曾好好考慮過「數據管理」這回事呢?)


DMPTool 是 2010年左右,由美國加洲大學 University of California Curation Center 與 UK Digital Curation Centre (DCC) 所開發,原先設計的服務使用對象是學術研究者,此社群人員在擬訂研究計畫時,能有一份完備的檢查清單來確認在資料數據收集、記錄與中介元資料、儲存備分處理,共享傳播等等過程的設計和執行上,確認執行人員確確實實地遵法依規,是否有哪些研究規範學術倫理需要先考慮等等。

一如開發者揭示,此軟體工具在設計時希望它具備四大功能:

  1. 協助建立與維護不同版本的數據管理計畫;
  2. 在數據管理課題上提供有用的指示方向,以符合方案或研究贊助單位的要求;
  3. 方便將數據管理計畫滙整成各種吸睛又實用的格式;
  4. 能夠以協作方式來規劃其數據管理方案

作為一個開源的免費工具,DMPTool 除了有線上版,也有離線單機版,任何人可從github 下載其源代碼後,自行安裝在本地端的電腦機器上(設置環境需求為 Ruby on Rails 與 SQL 資料庫)。我還沒有試過 ROR 的資料庫設定,所以暫且放棄在自己的電腦上試裝,僅先試用了 University of California Curation Center (UC3) 所提供的線上版,用戶只需註冊一個帳戶即可使用之。

簡要使用說明

完成註冊後,登入此站台,即被自動引領到系統預設的個人控制台(My dashboard),新手可在此開始建立一個全新的數據管理計畫。



前面提過,開始開發 DMP Tool 計畫源自於美國學術界在提交研究計畫經費申請時,通常贊助單位會要求須提交相關的數據管理政策。故目前參與 DMP Tool 者約有200多所美國大學或研究機構,這些正式加入的單位已被建立在此系統資料庫中,故在第二題的「Select the primary research organization」,若服務單位為加入 DMP Tool 的機關,可以在此快速打入名字後篩選出機構名稱。如果貴單位並非 DMP Tool 參與者,則可直接勾選右側的:“My research organisation is not on the list or no research organisation is associated with this plan”。至於第三題「Select the primary funding organization」,系統資料庫目前則收錄十八家美國研究資助機構的數據要求樣版,當然如果擬申請經費的對象目前仍未在此資料庫中,可直接勾選右側的“No funder associated with this plan”即可。接著下一個畫面即會被自動引導進入如何實際撰寫數據管理政策的工作區。從下圖中可以看到,藍底白字的分頁區共有五大頁,分別為: Project details, Plan overview, Write plan, Share, Download五大區塊。


第二個分頁:(Data Management)Plan Overview 先提供了一般最常見的數據管理政策的寫法指引。這裏參考的是英國 Digital Curation Centre 的樣版,大至依下列幾個要點來分項撰寫其數據管理政策:

數據收集
* 收集或産生什麼數據?
* 數據將如何收集或建立?
 
文件和中介數據中數據
 * 有什麼文件與中介數據可能會伴隨而生?

道德和法律合規
* 如何處理各種道德問題?
* 版權和知識產權(IP / IPR)問題的管理方法?

存儲和備份
* 在研究過程中如何存儲和備份數據?
* 如何管理其存取和安全?

選擇和保存
* 哪些數據具有長期價值,應存放,分享或保留?
* 數據組的長期保存計劃?

數據共享
* 如何分享數據?
* 是否須限制數據共享?

職責和資源
* 由誰負責數據管理?
* 實現計劃的資源需求


至於上方分頁「Share」功能,則不難猜出此工具提供了多人共同協作編寫,而「Download」則是把完成的數據管理計畫轉成各種檔案格式(CSV, TEXT, HTML, PDF, DOCX)滙出。


平心而論,這一類的工具以實用性為主,純用戶體驗來說,不具有太大的創意驚喜。除了過去曾介紹過的 Tool Selection Assistant (現已更名為"Alidade“),英國乳癌協會數位工作小組開發的” Third Sector Digital Maturity”,這幾款軟體工具雖然目的各異,在我看來其設計使用上似乎頗有異曲同工之妙。 之所以會有 DMP Tool 的出現,顯見提供數據管理計畫,在美國主流學術圈中已是經費申請過程中的的"must"。

雖然知道 DMP 工具對於台灣的 NGO 目前還是太過遙遠 無用,但….有人想要「一起」來弄它的中文化翻譯嗎XDXD


除每週二在 Medium 平台發佈專文外,「NGO 推進器」每個月整理一次的電子報,主動把文章滙整到訂戶電子郵件,或是加入 TWNGO slack 安靜無趣的聊天室。

https://www.getrevue.co/profile/twngo/