2019年3月23日 星期六

[.NET/Tool] 讀取不同版本Excel資料(.xls或.xlsx)

前言:
.NET中常見讀取Excel的元件有:
● Microsoft.Office.Interop.Excel
● NPOI
● EPPlus
● ClosedXML

但Interop.Excel在使用上,問題比較多,如多執行緒時,會出現檔案鎖定等問題,
至於EPPlus跟ClosedXML只能處理xlsx格式,所以就拿NPOI來試試了,
而且NPOI可以商業用,只要掛上copyright與license notice即可(Apache License 2.0)。


作法:
初次使用NPOI,發現不同Excel格式有不同類別處理,如:
● HSSFWorkbook用來處理xls
● XSSFWorkbook用來處理xlsx

但這樣不就要先判斷附檔名,再用不同類別處理?
似乎不夠漂亮!?

後來找到NPOI提供WorkbookFactory類別,提供IWorkbook抽象,
只要呼叫WorkbookFactory.Create方法,即可依Excel格式回傳該Workbook。
不過在WorkbookFactory.Create(string file)實作方法裡,
竟然是先用HSSFWorkbook開看看,開不起來再用XSSFWorkbook開,
沒問題就回傳,出乎我意料之外...


後來想到,如果只是讀取Excel,用LinqToExcel就可以了,
使用LinqToExcel讀取Excel非常方便,並可代入自訂物件結構,使用強型別處理資料。
但記得要安裝Microsoft Access Database Engine 2010 Redistributable
以免出現The 'Microsoft.ACE.OLEDB.12.0' provider is not registered on the local machine.'例外。


參考資料:
https://github.com/tonyqus/npoi
https://github.com/paulyoder/LinqToExcel






2018年12月31日 星期一

[EF/MySQL] 如何使用EF Database First連接MySQL DB

前言:
Entity Framework是.Net ORM(Object Relational Mapping)的Solution,常搭配SQL Server,但若要連結MySQL,該怎麼設定呢?


作法:
1. 先至MySQL官網下載MySQL for Visual Studio並安裝,使用最新的8.0.13版:


2. 打開VS,選單列->檢視->伺服器總管,在資料來源上右鍵->加入連接,
點選變更,即可選擇MySQL Database:

3. 輸入連接MySQL的連線資訊後,可點選測試連接確認結果。 


4. 但想使用EF Database First來介接MySQL,卻還是找不到MySQL provider:

5. 因為MySQL for Visual Studio適用在VS的伺服器總管上。
需再安裝MySQL Connector/NET(用來連接MySQL的ADO.NET driver),一樣使用8.0.13版:


6. 重開專案後,新增實體資料模型,就可以看到MySQL provider:

7. 設定好連線資訊後,再點選下一步,卻出現錯誤:

8. 因為還要設定EF連接MySQL的provider,建議從NuGet下載MySql.Data.EntityFramework,專案在加入參考MySql.Data、MySql.Data.EntityFramework與Google.Protobuf後,會自動更新web.config的EF provider。
或是手動加入這些dll(可在MySQL Connector Net安裝資料夾的Assemblies下找到), 在web.config的EF區塊內自行加上
<provider invariantName="MySql.Data.MySqlClient" type="MySql.Data.MySqlClient.MySqlProviderServices, MySql.Data.EntityFramework" />


9. 最後完成Database first設定。


後記:
在第7點設定資料連接的畫面,按下一步若視窗跳掉,
通常是web.config的EF provider沒設好,
或是沒安裝MySQL Connector/NET。


參考資料:
https://dev.mysql.com/doc/mysql-windows-excerpt/8.0/en/windows-install-archive.html



2018年11月13日 星期二

[ASP.Net MVC] Github OAuth外部驗證無法使用(要求已經中止: 無法建立 SSL/TLS 的安全通道/loginInfo為null)

前言:
OAuth是一種外部驗證的標準,可讓第三方應用程式,存取資源擁有者的資源。
通過驗證後,第三方應用程式會從OAuth Server拿到token,
即可使用token存取資源伺服器上的資源了。

.Net MVC 5預設有提供外部驗證(Google、FB、Microsoft與Twitter等),
如要使用Github OAuth驗證,NuGet上也有package可直接使用:
裝好package後,打開Startup.Auth.cs,
輸入app.UseGitHubAuthentication("clientID", "clientSecret");
基本上就可使用了。

需啟用https,才可以進行OAuth驗證。

不過在本機使用.Net framework 4.5.2+MVC 5.2.3驗證卻無法登入:
按下外部登入的GitHub按鈕,狀態列顯示瀏覽器在動作,但過了一會,
發現畫面依然停留在登入畫面,WTF??

取得Owin.Security.Providers.GitHub的source code來trace,
發現在發request要token這裡,
出現Exception:「要求已經中止: 無法建立 SSL/TLS 的安全通道」,
(The request was aborted: Could not create SSL/TLS secure channel.)
導致ExternalLoginCallback中loginInfo為null,又回到Login頁面。

那為何出現該Exceptioin? 參考黑大與其他文章,
原來是.Net 4.5預設https的protocol是TLS 1.0,但TLS 1.0因安全性問題,
已被大家捨棄,使用TLS 1.2以上是現行的做法。

解決辦法:
● 因.Net 4.6預設使用TLS 1.2,新專案可直接使用framework 4.6以上,試過ok,直接升級framework試過不行。
● 若是參考source code,可以在handler要token前的request加入:
 System.Net.ServicePointManager.SecurityProtocol = SecurityProtocolTypeExtensions.Tls12;

● 修改registry機碼,將環境改為TLS 1.2,可參考下圖。



參考資料:
https://tools.ietf.org/html/rfc6749#section-1.3.1
https://blog.darkthread.net/blog/disable-tls-1-0-issues
https://support.microsoft.com/en-us/help/3154520/support-for-tls-system-default-versions-included-in-the-net-framework






2018年8月30日 星期四

[Python Package] matplotlib使用記錄

前言:
資料視覺化是了解資料與報告成果的重要方式,在Python常用matplotlib套件來畫圖,
以下紀錄使用的語法。


語法:

在jupyter notebook常用,宣告後,不用每次寫plt.show()。

matplotlib可自訂繪圖風格,ggplot風格就是模仿R的知名繪圖套件ggplot2,讓繪圖更美觀。

一般二維的折線圖,使用plot函式,簽章如下:

[]代表optional,fmt表format字串,可用來決定折線顏色、資料點標記與折線樣式。

例:'yo-'表line為黃色、資料點圓形、line粗體。


plot函式使用,例:
plt.plot([0,1,2], [0,10,0])
plt.plot([0,1,2], [0,10,0], 'g.-')


to be continued...


參考資料:
https://matplotlib.org/gallery/style_sheets/ggplot.html#sphx-glr-download-gallery-style-sheets-ggplot-py
https://matplotlib.org/api/_as_gen/matplotlib.pyplot.plot.html


2018年8月22日 星期三

[.Net MVC] Items could not be selected(null) in Multiple Select(ListBox)

前言:
網頁中常用Multi Select或稱ListBox供使用者多選Items,如:
<select multiple>
<option value="Taiwan">Taiwan</option>
<option value="USA">USA</option>
</select>
 或
@Html.ListBox("country", null, new {multiple = multiple})

當option items render後,又沒有被點選,會發生回傳item為null的狀況,
該如何處理?


作法:
● 在form post前,將option加上selected的屬性。
$('form').submit(function(){
   $('#target option').attr("selected", "selected");
});
若上述做法行不通,可使用下面方法:
● append option value到某一hidden element,再post到後端。



參考資料:
  

2018年6月26日 星期二

[Python/Package] macOS安裝keras與TensorFlow(搭配Virtualenv與jupyter notebook)

前言:
Keras與TensorFlow都是machine learning的套件,
Keras較適合入門,並可選擇run在TensorFlow、CNTK或Theano上。
該例使用Python 3,另TensorFlow website推薦macOS在10.12.6(Sierra)或以上。

安裝步驟:
打開Terminal,打指令:
virtualenv --system-site-packages -p python3 targetDirectory

~/keras代表在使用者下建立keras資料夾。

接著打指令:
cd targetDirectory

再來打指令:
$ source ./bin/activate # If using bash, sh, ksh, or zsh

繼續打指令:
(targetDirectory)$ pip3 install --upgrade keras # for Python 3.n
(targetDirectory)$ pip3 install --upgrade tensorflow # for Python 3.n


此時已將keras跟TensorFlow安裝在Virtualenv內了。
安裝後,可以做個簡單的測試,是否有成功安裝:
(targetDirectory)$ python
(targetDirectory)$ import tensorflow as tf



執行import後,沒有錯誤訊息,代表有安裝進去。
最後在Virtualenv安裝jupyter notebook的kernel:
(targetDirectory)$ pip3 install ipykernel
(targetDirectory)$ python -m ipykernel install --user --name=virtualenv-name


最後,啟動jupyter notebook:
(targetDirectory)$ jupyter notebook
點選jupyter notebook主畫面右上角的New,選擇剛建立在Virtualenv的kernel即可:



最後,執行畫面如下 :


參考資料:
https://www.tensorflow.org/install/install_mac
https://stackoverflow.com/questions/42449814/running-jupyter-notebook-in-a-virtualenv-installed-sklearn-module-not-available

2018年5月31日 星期四

[CSS] 如何讓div element內的單行文字垂直置中(vertical center)

說明:
網頁上常用div element顯示區塊文字,水平置中可直接指定text-align:center,例:
<div style="text-align:center">test</div>
但文字垂直置中並沒有屬性可直接設定,
雖然有個vertical-align的屬性,不過是用在圖片置中上的...
那文字垂直置中該怎麼做?


作法:
答案是height跟line-height設一樣即可,例:
<div style="height:2vh;line-height:2vh">test</div>

不過為何這樣設定就可以讓文字垂直置中??
一般而言,line-height會大於font-size,
Content Area的高度由font-size決定,
 line-height扣掉font-size後的高度,會平均分配在Content Area的上面跟下面(half-leading),
最後,line-height等於height,也就代表整個box的高度一致了。




參考資料:
https://stackoverflow.com/questions/8865458/how-do-i-vertically-center-text-with-css
https://stackoverflow.com/questions/8799164/how-does-line-height-vertically-center-text
https://www.slideshare.net/maxdesign/line-height