慶應義塾大学 村井研究室
バーチャルユニバーシティ研究グループ
vu@sfc.wide.ad.jp
1997
年9月26日
| 概要 | ||||
| 1.はじめに | ||||
| 2.オンライン授業調査の概要 | ||||
| 3.オンライン授業調査システム | ||||
| 4. 結果 | ||||
| 5. まとめと今後の課題 | ||||
| 参考資料 | ||||
慶應義塾大学湘南藤沢キャンパスの「コミュニケーションネットワーク論」の授業(1997年春学期開講)でオンライン授業調査の実験を試みた。これは、オープンでかつ匿名性を保証したデジタルコミュニケーション基盤上で実施されており、以前よりSFCで実施されてきた紙による授業調査とはその特徴を異にする。その1つが情報の公開である。これにより従来の授業調査であがっていた「評価結果が学生に対して十分な形で公開されていない」「評価結果が授業にどのようにフィードバックされているか明らかにされていない」といった問題点を解決し、より意味のある授業調査を可能にした。
この実験は、教員と学生によるオープンなデジタルコミュニケーション基盤にもとづいた新しい大学環境を構築することを目的とした、慶應義塾大学村井研究室のバーチャルユニバーシティ研究グループによって、大学機能の1つの実験として行なわれたものである。本報告書では、その実現方法、結果を報告し、オンライン授業調査の有用性、移行可能性について分析・評価を行う。
1990
年の創立以来、慶應義塾大学湘南藤沢キャンパス(以下、SFCと略す)では、学生による授業評価が実施されている。これは学期の終わりに授業時間を利用して、学生が履修した授業に関して質問用紙に答え、評価する仕組みになっており、授業改善に向けた有用な資料として位置づけられている。授業をより良いものにするために、そして教員の教育評価のものさしとして授業評価の果たす役割は大きい。しかしながら、現状を鑑みると授業評価が本来の目的を十分に果たしているとは言い難い。その問題点として考えられるのが、(1)授業時間を利用して授業終了時に実施しているため授業調査に充分な時間を充てることができない。(2)授業評価の詳細を学生は知ることができない。現在公表されているのは、各科目ごとの評価ではなく総合的な評価になっている。(3)学生の回答に対する責任の欠如が多々見受けられる。(4)授業調査の授業へのフィードバックが不十分と思われる。
そこで、授業調査の形骸化を防ぎ、本来の授業調査の趣旨である教員、学生が協働して授業を作り上げていく仕組みの実現を目指して、従来の調査用紙における授業調査をデジタル情報化し、オンライン上で実施するオンライン授業調査の実験を試みた。調査内容は、過去7年間SFCで実施してきた授業調査との連続性、整合性を考慮し、従来と同じ質問項目を使用することにした。本授業調査の特徴は次のとおりである。
今回は、「コミュニケーションネットワーク論」(履修者数:
326名)において実験を実施した。同時に従来通り紙ベースの授業調査も実施しており、これら2つを比較、評価することを通して、オンライン授業調査の是非を検討することにした。以下に、その実験概要と結果について述べる。
オンライン授業調査の概要説明に先立ち、まず従来の授業調査の実施要領を以下に簡単に紹介しておく。
公表内容は、授業種類ごと
今期の有効回収講座数:
661講座、有効回答数:21656票
本実験では以上のように紙ベースで行ってきた授業調査をデジタル化し、アンケート調査及び結果発表に関してWWWを用いてインターネット上で実施することで、授業調査の結果がより早い段階で授業へフィードバックされることを目的にした試みである。
2.1 オンライン授業調査実施要領
COMNET
… SFCの環境情報学部専門科目であり、学部3年生以上が履修対象となっている。
実験にあたり、
COMNETの最終授業(1997年7月7日)で、紙ベースのアンケート調査も合わせて実施すると共に、インターネットにおけるアンケート調査実施の依頼について履修者に向けて連絡をした。但し、今回は実験的な見地からこの授業調査への回答を一応課題扱いとし、多くの学生に協力を仰いだ。COMNETでは普段から授業教材としてWEB(URL: http://comnet.sfc.wide.ad.jp) を利用しているので、そのページから授業調査ページへリンク(URL : https://ec.sfc.wide.ad.jp/vu/evaluation/)を張ってもらい誰もが簡単にWWWによってアンケート調査を行えるようにした。ここで入力された内容はすぐに集計され、アンケート回答者も含め、誰もがその内容を参照できるようにした。これによりこれまでのように紙ベースの内容をデジタル化した上で集計に入るといった手間を省くことができ、集計までの期間を大幅に短縮することが可能になった。次項に、オンライン授業調査システムに関する設計・実装について説明する。
3.1 要求事項
授業調査システムを設計、実装するにあたり、以下8点の要求事項を念頭に進めた。
1)
認証 : 履修者のみが評価を実施できること。2)
重複回避 : 評価の回答は必ず一人一回であること。3)
匿名性 : 評価の内容と回答者との対応がつけられないこと。4)
公開性 : 結果を学内に公開すること。5)
正当性 : 評価結果が改竄されないこと。6)
可視性 : 結果がわかりやすいこと。7)
即時性 : 結果がすぐに統計できること。8)
提出期間 : 評価の期間は1週間程度もうけること。9)
容易性 : 回答者にとって操作が簡単であること。
3.2. 設計
3.2.1. 回答システム
回答のインタフェースとして、メールと
WEBの可能性について検討した。それぞれの特徴をまとめたものを表1に表わした。
(1) メールによる回答
3.1で述べた要求事項を満たすために、以下の3つのサーバ「フォームサーバ」「受付サーバ」「統計サーバ」を用いた設計を行った。
フォームサーバ
保持する情報
: 授業調査のフォーム入力
: 授業を指定するコマンドを含むメール出力
: メールの送り主に指定授業のフォームを返送機能
: 指定コマンドの解釈、返送は無条件
受付サーバ
保持する情報: 授業の履修者名簿、履修者の
PGPキー、履修者の回答有無入力:
PGPで暗号化された評価内容(フォーム)を含むメール出力: 評価内容を平文になおして統計サーバへ送付、回答者情報の送付無し調査終了後、回答者名簿を作成
機能: 履修者名簿とつきあわせて、資格の確認、重複回答の確認
統計サーバ
保持する情報: 提出された評価(回答者情報なし)
入力: 受付サーバから送られる平文の評価内容
機能: 全評価内容から統計情報を計算、公開
(2) WEBによる回答
メールと同様に、要求事項に従い以下の「フォームサーバ」「受付サーバ」「統計サーバ」を用いた設計を行っている。基本的にフォームサーバと統計サーバはメールを利用するシステムとほぼ同じ機能を持つ。
フォームサーバ
フォームサーバはテキストベースのメールではなく、
HTMLのFORMをもちいた形式でフォームを保持し、記述内容をCGIで受付サーバへ送付
受付サーバ
保持する情報: 授業の履修者名簿、学生
IDとパスワード、履修者の回答有無入力: 学生
IDとパスワード、評価内容を含むデータをCGIで受領出力: 評価内容を統計サーバへ送付。
ID情報は含まない調査終了後、回答者名簿を作成
機能: 履修者名簿とつきあわせて、資格の確認、重複回答の確認
統計サーバ
メール利用の設計と同様、提出された評価をもとに統計情報を計算、公開
留意点
メールでの実現と異なる点は、提出時にパスワードを入れることで認証を行っている点で、そのために発生する提出時の改竄、パスワード情報の機密性、匿名性の問題は、
HTTPとブラウザ間でSSLを用いることで保証
(3) システム比較
メール及び
WEBによる回答システムの比較結果は以下のとおりである。
| 方法 |
メール |
WEB |
|
認証 |
PGP メールによって認証 |
大学 IDとパスワードによって認証 |
|
提出時の機密性および改竄防止 |
PGP 暗号化によって保証 |
SSL によって保証。しかし、X端末利用の場合パスワードは保護されずにネットワーク上を流れる。 |
|
匿名性 |
受付サーバと統計サーバの分離によって実現。ただし 両サーバの保持する情報に同一人物がアクセスできないように、別管理にすること。 また、調査期間中の公開統計情報へのアクセスは、受付サーバの保持するデータにアクセスできない人に限ること。 |
|
|
重複回避 |
受付サーバが履修者名簿によって実現 |
|
|
改竄防止 |
受付サーバ、統計サーバ上のアカウントの制限、ファイル保護、アクセスログ、などで改竄されにくくする。 |
|
|
改竄発見 |
提出者個人個人によって、提出前、提出後の比較を行うことで発見。 |
|
|
プラットフォーム |
どんな端末でも提出可能 |
SSL 、FORM対応、日本語入力可能なWEBブラウザが必要。 |
|
提出データの有効性 |
フォームがユーザの手によって変更され、処理できない場合がある。 |
フォーム入力のため有効性が高い。 |
|
手順 |
PGP キーを作成し、受付サーバに登録する必要がある。 |
特になし。 |
表
1: 回答システムの比較
PGP
キーのプロセスオーバーヘッドの問題に比べて、今回実施するCNS(SFCキャンパスネットワークシステム)環境ではX端末によるパスワード入力は通常より行われていることから、WEBによる回答システムの設計を採用した。
3.2.2. 公開方法
授業評価の公開方法について検討、それぞれの特徴を表2に示す。
| 方法 |
利点 |
欠点 |
|
自動メール応答 |
どんな端末でも見ることができる |
文字情報に制限される |
|
WEB |
画像情報を表示できる |
ブラウザが動作することが必要 HTMLで記述できる情報に制限 |
|
独自アプリケーション |
情報表現方法が自由 |
アプリケーションの開発および配布が必要。 |
表2: 公開方法の利点及び欠点
授業調査の結果に関しては、可視性の要求事項を満たすため
HTMLで表現できる程度のグラフィック情報を含むことが望まれたため、WEBによる公開を行うことにした。
3.3. 実装
ここでは、以上の設計に基づいて行った実装について述べる。
図
1: 授業調査システムフローチャート
フォームサーバ
HTMLのFORMを用いたページとして回答フォームを保持。ユーザに提供。
(
URL: https://ec.sfc.wide.ad.jp/vu/evaluation/enq.html)
受付サーバ
授業の履修者名簿をパスワードファイルの形で保持
FORM
の入力は、SSLを用いた通信を採用FORM
の入力を受けるCGIは、Perlを用いた実装(
URL: https://ec.sfc.wide.ad.jp/vu/evaluation/enq.cgi)
統計サーバ
受付サーバが出力したファイルを直接参照
Perl
で記述したCGIとして実装参照ボタンを押すと誰でも参照可能
(
URL: https://ec.sfc.wide.ad.jp/vu/evaluation/enqview.cgi)
更に、
3.1.要求事項の分類に従って、その実装について説明する。以下の表は本実装で実現できたこと及び実現できなかったことについて明記している。
| 要求事項 |
実現したこと |
実現できなかったこと・問題点 |
|
|
1 |
認証 |
|
|
|
2 |
重複回避 |
|
|
|
3 |
匿名性 |
|
|
|
4 |
公開性 |
|
|
|
5 |
正当性 |
|
|
|
6 |
可視性 |
|
|
|
7 |
即時性 |
提出と同時に公開情報に反映した。 |
|
|
8 |
提出期間 |
|
|
|
9 |
容易性 |
|
|
表3:オンライン授業調査システム実験の結果
3.4.評価
本システムは設計上の要求事項を十分満たす結果を示したが、留意すべき点もまだ残されており、その点を明らかにすると共に、解決方法について述べる。
受付サーバと統計サーバを物理的に分離し、その間のセキュアな通信を確保する。この分離を行なわない場合は、受付サーバで履修者名簿を保持せず、資格の確認の部分をチケットサーバ(提出用の一時的な
(2)改竄発見メカニズムの再検討
本実験では、回答者が自分の回答結果を統計結果上に確認することで改竄を発見するようにしていたが、この方法を取ると、回答前に他人のコメントや評価結果を見ることが可能になり、自分の評価内容が他人のものに影響を受けてしまう、といった指摘を授業のニュースグループで履修者から受けた。回答期間中の公開を、回答済みの履修者と履修者以外に限るという制限を設けることでこれを解決することは可能であるが、(これが必要であるか、必要でないかについては議論の余地がある)それには別の改竄発見のメカニズムが必要になってくる。
(3)
X端末利用時の機密性の保証今回は、
X端末利用時の機密性については保証しなかったが、広く一般に実施するにあたってこの点の改善が必要である。
(4)バックアップの実施
受付サーバと統計サーバとの間で同期のとれたバックアップを実施する必要がある。
(5)入力時のチェックの強化
誤って回答の一部を白紙で入力してしまった履修者が、正しく回答できなくなってしまった。回答内容を確認するための確認プロセスを挿入する必要がある。
以上のシステムを用いて授業調査を実施した結果は次のとおりである。ここでは、紙ベースの授業調査と比較する形で結果を示していく。詳細については添付資料参照。
図
2: 履修者中の授業調査回答者比率の比較
|
WEB による授業調査
|
紙による授業調査 |
||||||
|
人数(人) |
人数/履修者 |
人数/回答者 |
人数(人) |
人数/履修者 |
人数/回答者 |
||
|
履修者 |
326 |
326 |
|||||
|
回答者 |
202 |
61.96% |
143 |
43.87% |
|||
|
内 定性?回答者 |
106 |
32.52% |
52.48% |
42 |
12.88% |
29.37% |
|
|
内 定性?回答者 |
96 |
29.45% |
47.52% |
37 |
11.35% |
25.87% |
|
|
内 定性?回答者 |
87 |
26.69% |
43.07% |
23 |
7.06% |
16.08% |
|
|
*定性? : この科目でよかったこと。(自由記述) |
|||||||
|
*定性? : この科目で改善を要すること。(自由記述) |
|||||||
|
*定性? : 一般的な批評、意見、提案。(自由記述) |
|||||||
表4: 定性データ回答率
図
2及び、表4らわかるように、紙よりもWEBの方が授業調査への回答者数は多い。履修者326名中、WEBにおける回答者は202名で、 約6割の履修者が授業調査に回答していた。(当初の履修者数は、359名であったが、その後の調査で試験を受けたのが326名だったため人数を変更) 紙に比べて18.09%ほどWEBにおける回答者率は高くなっている。また、自由記述による定性的な質問「この科目でよかったこと」「この科目で改善を要すること」「一般的な批評、意見、提案」への回答率は、そのどれを取ってもWEBの方が高くなっていることがみてとれる。授業調査に回答した人の中で定量的な質問と定性的な質問項目の両方に回答している人の割合は、紙とWEBでその回答率に約20%以上の開きを生んでいる。更にこれら定性データを見てみると、その文章量がWEBで多くなっていることに気づく。但し、27名の学生が日本語で回答することができずに、英語で答えていたのも事実である。これをハード的な問題と限定することは必ずしもできないが、考慮すべき点であろう。このように、紙に比べてWEBにおいてより多くの回答を回収することに成功した。特に、定性的な質問においてはそれが顕著であった。次に、授業調査の集計結果について、その内容を紙と
WEBで比較検討する。
|
WEB |
紙 |
||||||
|
設問 |
平均(1) |
標準偏差 |
平均(1) |
標準偏差 |
(1)-(2) |
Z値 |
|
|
1 |
この授業の内容は体系的だった。 |
3.98 |
0.72 |
3.98 |
0.75 |
0.00 |
0.00 |
|
2 |
この授業で使われたテキスト、配布資料などは有益だった。 |
3.70 |
0.83 |
3.69 |
0.81 |
0.01 |
0.11 |
|
3 |
この授業では、黒板、OHP、ビデオ、スライドなどの使い方が効果的だった。 |
4.41 |
0.68 |
4.42 |
0.71 |
-0.01 |
-0.13 |
|
4 |
抽象的な観念・理論をよく判るように説明された。 |
4.31 |
0.70 |
4.38 |
0.69 |
-0.07 |
-0.92 |
|
5 |
話し方が聞き取りやすかった。 |
4.51 |
0.68 |
4.60 |
0.61 |
-0.09 |
-1.28 |
|
6 |
授業の内容は興味あるものだった。 |
4.38 |
0.70 |
4.32 |
0.76 |
0.06 |
0.75 |
|
7 |
この授業は自分にとって価値があった。 |
4.14 |
0.79 |
4.13 |
0.80 |
0.01 |
0.11 |
|
8 |
授業担当者は学生の参加を促し、学生に十分応答した。 |
3.60 |
0.89 |
3.80 |
0.85 |
-0.20 |
-2.10 |
|
9 |
授業担当者は、学生に適切に助言を与え相談にのってくれた。 |
3.35 |
0.82 |
3.41 |
0.81 |
-0.06 |
-0.67 |
|
10 |
授業担当者は授業の際、クラスをうまくまとめた。 |
3.74 |
0.91 |
3.99 |
0.88 |
-0.25 |
-2.55 |
|
11 |
私はこの授業によく出席した。 |
3.64 |
1.05 |
3.73 |
0.99 |
-0.09 |
-0.81 |
|
12 |
私はこの授業に意慾的に取り組んだ。 |
3.70 |
0.94 |
3.68 |
0.92 |
0.02 |
0.20 |
|
13 |
私はこの授業をほかの学生に薦めたい。 |
4.20 |
0.74 |
4.15 |
0.73 |
0.05 |
0.62 |
表
5におけるWEB及び紙間の各平均点の違いは、1%の危険率で有為でないことがわかった。すなわち、WEBと紙においてその定量データ間に大きな違いは見られなかったわけである。
5.1. まとめ
ここまで、オンライン授業調査の実施要領及びシステムについて述べてきた。特に、今回の実験でシステム上の問題が発生することはなく、履修者から有効な回答を得られたと考える。
結果、定量データに関しては、
WEBによる調査結果と紙による調査結果に有為な差は見受けられなかった。つまり、これまで紙で行ってきたものをWEBに移行することで、調査結果に多大な影響を及ぼすとは考えにくい。それよりもより多くの履修者から回答を得ることで、有用な情報を得ることが可能になるのである。また、定性データの結果についていえば、履修者から多数の有効な回答を得られたことは意義深いと言えよう。これは第1に、従来に比べて長い授業調査期間を設けたことと、自由な時間に調査を実施できるようにしたことで、時間に追われることなく余裕を持って質問に答えることができるようになったことが関連していると考えられる。
第2に、今回の授業調査結果が即座に公開されたことが促進要因になったと考える。これにより、履修者は他の履修者がどのようなことを考えているかを知ることができると同時に、履修者自身、責任を持って回答することが求められたわけである。結果の公開は、授業評価を授業にフィードバックし、授業の質的向上を促す上で重要な点である。
5.2. 今後の課題
このように本実験でオンライン授業調査の実用性は明らかになったものの、いくつかの課題も残されている。以下に、そのポイントをあげ、今後の課題として取り組んでいくことにする。
本実験では、オンライン授業調査を課題という名目のもとに提出させたが、これがどの程度回答率に影響を与えていたかを現段階で判断することはできない。今後、多くの履修者から責任ある回答を得るためには、授業調査が授業へどれだけフィードバックされたか示していく必要があるであろう。授業調査の意義を履修者が再認識できるような仕組みを作っていかねばならない。その方法として次の4点をあげておく。
1.授業調査の集計結果に対して教員からコメントをもらう。
授業担当教員からコメントをもらえることで、回答者は自分の回答がきちんと読まれているかを確認することができる。また、その調査結果に対する教員の意見を聞くことができれば、教員が授業評価をどのように受け止めているかを知ることができる。これは、これまで次回の授業でしか確認できなかったことである。更に、教員のコメントが翌年の授業評価の一基準にもなりえるだろう。コメントが授業にフィードバックされているか、の確認である。
2.時系列に調査結果を公開する。
授業調査の集計結果を時系列に分析、公開していくことが必要である。これにより、前調査との比較ができるようになり、前授業からの改善点などを示していくことができる。同じことを毎年指摘されている場合、授業評価が授業に全くフィードバックされていないと理解されることになる。
3.教員の協力を得て、全授業においてオンライン授業調査を実施する。
授業評価の公開という点で難色を示す教員も多いだろうが、オンライン授業評価をすべての授業で実施してはじめて、大学の質的向上につながるであろう。
4.学生が授業調査の結果を、授業を選択する際の参考にすることができるようにする。
授業調査の結果をもとに学生は次回からの授業を選択できるようにする。授業シラバスだけではなく、他の学生がその授業をどのように評価しているか、また教員が学生の評価に対してどのように対応しているかを授業調査の結果から知ることで、より自分に適した授業を選択することができるようになると考える。それはすなわち、教員のみならず、学生にとっても授業調査の結果を知ることは重要になってくるのである。
これらを実現するためにも、
3.4 で述べたシステム上の課題に関して、その改善に力を入れていくつもりである。