全國中小學科展

2024年

Instruction-Tuning 在法律對話模型上的影響之探討

本研究探討 Instruction-Tuning 對法律領域語言模型的影響,我們使用 ChatGLM-2 6B 作為基礎模型,先以台灣法律文本進行 Continual Pre-training,再以和律師的 Q&A 數據集,分別採用 Supervised Fine-Tuning(SFT)、Reward Model 及 Proximal Policy Optimization(PPO)等 Instruction-Tuning 方法進行微調。結果顯示,僅經過 Pre-training 及 SFT 的模型,其產生的回覆較符合法律專業風格;但考量模型對法律知識的掌握,則以 Pre-training、SFT 及 PPO 整套 Instruction-Tuning 的結合效果最佳。本研究證明, 針對單一領域的語言模型, 不同的 Instruction-Tuning 方式會對其回覆風格及知識掌握造成不同影響。我們的研究為未來單一領域語言模型訓練提供了參考。

使用大型語言模型生成音樂中的故事

本研究旨在探索大型語言模型如何應用於音樂生成故事。研究動機源自音樂作為文化中不可或缺的一部分,但若要以文字精準表達出音樂中的故事情緒尚屬困難,藉由本研究提出的方法可以使故事顧及到音樂的情緒起伏。隨著 AI 的發展,我 們開始看到它們在各領域的應用。這項研究的目的是製作出一個系統能以音樂作為輸入,輸出音樂內的故事,為達成目的,我們結合多個模型。研究使用 PyTorch等工具,並探討文句和音樂的共同表示方法,實現情感匹配。研究結果顯示,音樂和文句情感辨識模型表現不錯,也研發出一個完整的生成流程。目前已有直接生成音樂的模型,也有把音樂統整介紹的模型,卻沒有依據音樂中的情緒生成故事的模型。我們研究就是在解決這個問題,結合到 LLaMA2預訓練模型生成出具情緒浮動的故事,要注意的是 LLaMA2的輸出限制最多只能有 4096個token。我們將此產生過程稱為 MTSPL (Music To Story Procedure with LLaMA)。

背景音樂與閱讀理解的神經處理機制

腦部若處於焦慮狀態,便會在認知上產⽣更多分⼼情形。同時,聽音樂能良好的緩解焦慮狀態並降低負面的認知影響。然⽽根據「認知能⼒假說」,在閱讀時若⼀邊聽音樂,閱讀表現便會因認知資源增加⽽受到擾亂。因此,本實驗利用主觀評量以及客觀的腦波測量,探討音樂對閱讀的影響為何?藉由改變背景音樂的情緒正負向度及在測試語句中目標詞的可預測性,探討閱讀理解之表現是否存在差異。其中,以N400 的可預測性效果作為閱讀理解的客觀指標。實驗發現,在無音樂情境下可觀察出典型的 N400 可預測性效果。然⽽,正負情緒之音樂皆會對於閱讀作業產⽣延遲的可預測性效果,其中帶有歌詞的流⾏樂會起到更⼤的⼲擾。本研究初步證實認知能⼒假說,未來將繼續收更多受試者,分析受試者焦慮狀態之影響。並分析 EEG 之腦波資料 alpha 波變化,作為放鬆程度的客觀數據。

蕗蕎對抑制血管收縮素轉化酶活性及降血壓之評估

蕗蕎為原鄉部落常見且重要的香辛料作物,具有降脂、抗動脈粥樣硬化、抗菌等活性, 但對於血管舒張作用則少有相關研究。因此本研究以乙醇對蕗蕎進行萃取,再進一步以色層 分析等方法進行純化,其分離到之化合物由核磁共振磁儀(NMR)光譜技術分析及質譜(MS) 之鑑定,鑑定得到一個主要大量的固醇類天然產物: Laxogenin。另外透過頂空氣相層析質譜儀(HS-GCMS),從生鮮蕗蕎(Allium chinense G. Don)共鑑定出 13 種化合物,其中包含 8 種含硫化合物,並以 Disulfide dimethyl 含量為 71%,占揮發氣體之含量最高。 在抑制血管收縮素轉化酶 (ACEI)活性測試中,取蕗蕎的酒精萃取物、大蒜的酒精萃取物、Laxogenin、diallyl disulfide 在濃度為 0.0125 mg/mL 下,其抑制率分別為 3.9 %、8.3 %、4.2 %、4.6 %。並透過電腦模擬分子對接技術(MDM),發現 Laxogenin、diallyl disulfide 與 ACE酵素具結合親和性,以上結果顯示,推測蕗蕎具有抑制 ACE 酵素及降血壓之功效。

尋找提升淡紫青黴菌BA1S菌株降解PBAT塑膠能力之因子

塑膠汙染問題日益嚴重,生物降解是一個對環境相對友善的解決方法。淡紫青黴菌(Purpureocillium lilacinum)為一種內寄生性真菌,前人發現其 BA1S 菌株具有降解PBAT(Polybutylene Adipate Terephthalate)塑膠的能力。本研究目的在篩選能夠提升 P. lilacinum BA1S 降解 PBAT 能力的添加物。將厚度 30µm 的塑膠片置於含有 BA1S 以及各類添加物的溶液中進行生降解試驗,以 7 天或 14 天為單位進行取樣,依塑膠片餘重來計算塑膠的降解百分比。實驗結果發現添加 Cu²⁺離子的處理組在鹼性環境下(pH 7.5)有最佳的降解效果,推測是該添加物可作為漆酶(laccase)的誘導物,促進 BA1S 的氧化的降解效果。添加 Rifampicin 的處理組也能顯著提升降解率,推測是因為該物質具有促進 cytochrome p450 單加氧酵素活性所致。本研究成果不僅可運用在降解 PBAT 農膜,也可以解決田間病原線蟲危害的問題。

圓桌中對應編號的錯排問題

本研究主要探討,有n位教授要在一個圓桌上舉行會議,其中每位教授都有自己的編號 (1~ n號),同時圓桌的 n個位置上也有各自的名牌編號 (1 ~n 號) 以順時針擺放置圓桌上與教授們的編號對應。其中第一個進來的 1號教授坐到了圓桌上 k號位,此後的教授們亂序一個一個進入,若發現與自己編號相同的位置是空的,就直接入座;若與自己編號相同的位置被占走了,就以逆時針方向尋找空位,直到有空入座。在這樣的遊戲規則下,本研究探討了,有 n位教授,且 1號教授坐到 k號位,如何給定一組教授入場的順序,就能即刻的找出對應的坐法,以及計算坐錯人數的期望值和坐錯人數次數分佈表等等,後續再將遊戲規則改為,1號教授不限定為第一個入場的人,同樣的探討上述問題。

分割子三角形的內切圓與旁切圓之新性質

關於三角形的分割子三角形之內切圓問題,我們設定了幾個新的研究項目並且得出豐富的成果。第一,子三角形的切圓的切點重合性質;第二,子三角形的切圓「半徑長度乘積不變量」;第三,兩點圓心連線性質以及三點圓心連線三角形的面積不變量。首先,我們給出一般化的切圓之切點重合分割存在唯一性。在此條件下,其切圓的圓心均落在一個拋物線,這是很有趣結果。我們再依序探討兩個、三個到多個子三角形,先給出內切圓與旁切圓半徑長度乘積與邊長的關係式,並且發現了不變量。最後探討三點圓心連線三角形面積不變量。值得一提的是,看似不相關的「圓心連線三角形的面積比值」與「半徑長度乘積比值」居然是等價,這是本研究亮點。最後我們完整給出分割為三個子三角形的所有面積不變量的所有組合。

A Real-time Home Health Monitoring System with Motion Waveform Using Millimeter-wave FMCW Radar

本研究提出了一種基於毫米波FMCW雷達的即時居家健康監測系統,與RGB攝影機感測器方案相比,該系統更具成本效益並保護用戶隱私。對於居家健康監測系統來說,除了走、站、坐、臥四種常見的身體動作外,及時發現緊急情況也至關重要。因此,我們支持跌倒偵測以及兩種手勢的識別,一種用於頭痛,另一種用於緊急事件。然而,由於雷達點雲的稀疏和不規律特性,我們提出一種新的身體動作波形表示方式和一套處理程序用來平滑動作波形,利用雷達點雲的三度空間座標和速度在時間序列上的變化波形來表示動作特徵並作為神經網路的輸入,再搭配一輕量級的1D-CNN+LSTM神經網路來實現即時動作辨識。根據實驗結果,此方法可以達到30FPS的輸出效率和94%的辨識準確率。

探討溫度對蝴蝶翅膀彩蝶效應特性之影響

本研究主要探討溫度對蝴蝶翅膀彩蝶效應特性之影響。為了研究蝴蝶翅膀光子晶體結構的特性,測量了翅膀對紅、藍和綠三種顏色光在不同角度和溫度下的反射率強度。當環境溫度變化時,小藍閃蝶翅膀的光子晶體結構會膨脹,週期性也會略微改變,導致藍光反射率明顯降低。然而,當環境溫度超過攝氏 40 度時, 反射光的強度則不再隨溫度變化。此外,斜角入射時,光線與鱗片截面增加,影響到較長波長的紅光和綠光。未來,計劃改變其他環境因子,以探討是否有其他因素會導致蝴蝶翅膀光子晶體結構的變化。同時,將致力於設計利用光學方法來測量溫度及其他環境因子的新方法。

The Role of Impaired SUV3 in Mitochondrial Dysfunction and Its Linkage to Insulin Resistance in Type 2 Diabetes

第二型糖尿病的主要致病機轉為胰島素阻抗性, 但胰島素阻抗性的機轉仍不清楚。以往研究發現胰島素阻抗性與粒線體功能異常高度相關,但是兩者➀間的關係及機轉目前仍有爭議。本研究以 SUV3來進行調控,SUV3為粒線體RNA分解體➀組成要件,負責粒線體RNA中的代謝及調控。小鼠SUV3缺失會引起粒線體DNA突變,粒線體功能下降,而這些表現型可以經由會由母系遺傳到下一代。我們發現這些經母系遺傳到粒線體DNA突變的小鼠,會產生葡萄糖不耐症與胰島素阻抗性,伴隨骨骼肌的磷酸化Akt表現量明顯下降。進一步的研究發現經母系遺傳到粒線體 DNA突變的小鼠會產生高游離脂肪酸血症及運動耐受性下降,間接卡洛里測定顯示脂肪酸燃燒的比例下降。影響胰島素信息傳遞途徑,因而引發胰島素阻抗性。這些研究結果將有助於糖尿病患者的臨床研究,並希望能夠幫助患者。