理解 crontab 幫助處理例行性任務

更新於 2023/08/26閱讀時間約 5 分鐘
常說,科技始終來自於人性,而懶惰就是人創造東西的動力

為了解放雙手,創造更多時間價值,這邊我們要先理解什麼是crontab,並利用crontab的設定來幫我們處理例行性任務,並延伸到 aws EventBridge 去設定定時排程,去定時執行我們的爬蟲~

什麼是crontab?

Crontab(是 cron table的縮寫)是一個用於在Unix和Unix-like操作系統上定期執行任務的工具。這些任務通常被稱為"cron jobs"。Crontab允許用戶定義計劃的任務,以便在特定的日期和時間執行,無需手動操作。

而Cron jobs的執行時間由一個稱為cron表達式的字符串來指定。這個表達式包含五個字段,分別表示分鐘、小時、日期、月份和星期幾。

22 3   *   *   sun   //Cron表達式

分 時 日期 月份 星期幾​

而在 Linux 系統上,每一位使用者都可以自訂自己的 crontab 排程工作,若要查看自己的 crontab 內容,可以使用 crontab 指令加上 -l 參數:

# 查看自己的 crontab
crontab -l

而如果要開始於本地電腦編輯排程工作,可以使用 crontab 指令加上 -e 參數,這時候就會開啟該自己crontab 內容

# 編輯 crontab 內容
crontab -e

若要刪除目前所有的 crontab,可以使用 -r 參數:

# 刪除 crontab 內容
crontab -r

本地實作練習

接下來是本地如何設定我的排程工作並執行我的python檔案,開啟命令提示字元,輸入crontab -e,會開啟自己crontab內容,並輸入 i 切換到可編輯狀態。

圖一

圖一

32 22 * * 7 cd /Users/dale/Web/python-yoga  
&& source venv/bin/activate
&& /usr/bin/python3 main.py

這邊將shell設定內容擷取出來,這邊可以設定規則是,先設定cron表達式,這邊是設定於每個禮拜天的10:32分去啟動crontab,並切換到/Users/dale/Web/python-yoga檔案位置,&&是接著執行指令,source venv/bin/activate(這段是進入我的環境變數),接下來是執行我的python檔案,解釋如下

正常我們執行python檔案寫法如下​
python3 main.py

但在crontab 寫法必須寫完整路徑,故變成以下
/usr/bin/python3 main.py​

撰寫完畢後,輸入:wq 儲存後離開,看到shell回應crontab: installing new crontab,代表設定完成!,接下來就等時間到系統就會幫我們執行拉~

AWS 如何設定排程任務?

首先到我們的lambda function 點擊Add trigger

raw-image

接下來設定我們的排程設定,這裡選擇EventBridge,進行規則的命名,每兩小時跑一次匯率排程,選擇Schedule expression ,這邊aws有兩種表達方式,一種是rate(1day) or cron(******)的方式,在aws這裡還有包括到年份也可以設定。

crontab如果時間不知道怎麼撰寫,也可以參考這個小工具連結,或是點擊cron or rate expressions 的aws文件說明,相關連結會放在底下供參考,設定完成後點擊ADD新增

raw-image

新增完畢後下方就會出現設定的trigger,這裡我們可以點藍色名稱進去

raw-image

這裡可以看到詳細的啟動時間,底下也成功顯示每兩小時啟動一次區,右邊選擇local time zone 可以看到以當地時間他在幾點幾分會執行這個trigger。

而如果是有執行特定時間的設定,且aws地區當初設定是其他國家的話(例如tokyo),則設定完會是以那個地區時間為主哦(東京跟台灣時差一小時)。

例如設定台灣的時間中午 12:00 啟動時,則crontab東京的時間設定11:00才對

raw-image


總結:結合上次的爬蟲玉山匯率,再搭配crontab的知識點,就可以組合出一個實際應用小例子,再加以設計變化,就可以作為一個小型的side project拉(自己說),最後附上爬蟲玉山文章連結,可以搭配服用哦!

python 爬蟲玉山匯率並部署到aws lambda


參考連結:

https://docs.aws.amazon.com/AmazonCloudWatch/latest/events/ScheduledEvents.html

https://crontab.guru/

https://www.runoob.com/linux/linux-comm-crontab.html

https://linux.vbird.org/linux_basic/centos7/0430cron.php











avatar-img
15會員
37內容數
學涯無止境,透過每日or每週模仿學習筆記,不管是哪些領域也好,總有一天也可以從菜雞變小雞
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
DDDDD的沙龍 的其他內容
根據PHP官方說明,浮點數的精度有限。儘管取決於系統,PHP 通常使用 IEEE 754 雙精度格式,則由於取整而導致的最大相對誤差為 1.11e-16。非基本數學運算可能會給出更大誤差,並且要考慮到進行複合運算時的誤差傳遞。
最近開了複委託打算定期定額買美股,主要因為交割戶是設定外幣帳戶交割,先前設置了常用銀行的外幣到價通知,但是美金最近一直逆空高灰,幾乎不會啟動到價通知🥲,只好一直關注銀行即期價格,但因為上班常常會忘記要看一下外幣網銀換匯優惠,故想說練習python之餘,並順便做個爬蟲將資料發送到line群組
以前公司在對於 git 合併衝突的解法通常是將master合回自己的分支接著開發,也習慣了這種作法,但線圖就是有點醜,後來到了新公司之後規定強制要使用rebase的方式處理,在此紀錄git rebase 處理merge 衝突。
菜雞成長故事 寫這一篇主因也是因為身邊朋友陸陸續續想往軟體業發展,或是想動手做做小專案,故才成就了這一篇心路歷程,這邊會介紹我的背景、學習管道跟我如何選擇第一個程式語言作為敲門磚跟學習時間,希望能幫助還在努力中或是預計要轉職的各位有一個方向或是參考?(雖然我依然還是一個小菜雞,請鞭小力)
isset(), empty() 和 is_null() 是 PHP 中常用的三個函數,它們用於檢查變量是否已經設置或是否為空值。以下是它們的區別:
根據PHP官方說明,浮點數的精度有限。儘管取決於系統,PHP 通常使用 IEEE 754 雙精度格式,則由於取整而導致的最大相對誤差為 1.11e-16。非基本數學運算可能會給出更大誤差,並且要考慮到進行複合運算時的誤差傳遞。
最近開了複委託打算定期定額買美股,主要因為交割戶是設定外幣帳戶交割,先前設置了常用銀行的外幣到價通知,但是美金最近一直逆空高灰,幾乎不會啟動到價通知🥲,只好一直關注銀行即期價格,但因為上班常常會忘記要看一下外幣網銀換匯優惠,故想說練習python之餘,並順便做個爬蟲將資料發送到line群組
以前公司在對於 git 合併衝突的解法通常是將master合回自己的分支接著開發,也習慣了這種作法,但線圖就是有點醜,後來到了新公司之後規定強制要使用rebase的方式處理,在此紀錄git rebase 處理merge 衝突。
菜雞成長故事 寫這一篇主因也是因為身邊朋友陸陸續續想往軟體業發展,或是想動手做做小專案,故才成就了這一篇心路歷程,這邊會介紹我的背景、學習管道跟我如何選擇第一個程式語言作為敲門磚跟學習時間,希望能幫助還在努力中或是預計要轉職的各位有一個方向或是參考?(雖然我依然還是一個小菜雞,請鞭小力)
isset(), empty() 和 is_null() 是 PHP 中常用的三個函數,它們用於檢查變量是否已經設置或是否為空值。以下是它們的區別:
你可能也想看
Google News 追蹤
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
超額報酬 = 風險 + 錯誤定價 如果想要獲得超越大盤的報酬,勢必需要理解超額報酬是如何得到的?未來是否會有失效的可能性?本篇文章將說明想要打造績效超越市場的策略或是選股標準,所注意的要點以及其背後的原理。
Thumbnail
每家偉大的企業,都隱藏著不為人知的秘密
Thumbnail
這個理論太重要了,而且在我寫作這篇文章時,我用google在繁體中文網站上並沒有看到有文章好好介紹「誘因敏感化理論」。當然,跟成癮、戒毒有關的專業人員、研究者,一定知道這是什麼。但,這麼重要的理論,在中文網路世界如果沒有常被提到,對台灣科普、心普的推廣,是很可惜的事情。
Thumbnail
投資風險控管比較強調須控制持股比例,但這並不單純只屬於投資人自己控制的部分,而是與外在變數有很大的關聯性,外在環境不佳,才會讓投資人降低持股比例,中間涉及對於市場的判斷,對於市場的判斷能力才是關鍵
Thumbnail
想像與現實的差距才是風險衍生的地方,股價出現漲勢是因為投資人想像未來企業獲利會變好,萬一現實不如想像所預期才是風險,投資人必須理解現實是甚麼情況,還得瞭解市場對於未來的想像是甚麼,才能知道想像與現實是否存在明顯差距,及其中可能的風險危機。
Thumbnail
這個決心就像千年岩石一般堅硬,毫無妥協的餘地。她的存在和文學信念之間,夾不進一絲毫的空隙。
Thumbnail
  自清朝結束後,中國本部的北京政府無力亦無心干預新疆事務,新疆形同政治自中國獨立出去,形同一閉關自守、自給自足的獨立王國。自民國元年(1912)到十七年(1928),統治這一個地方的人,是前清官僚出身的楊增新。他如何能保持新疆不受外力、軍閥進攻,維持內部十七年的長治久安呢?
Thumbnail
嫁給韓國老公之後,許多人愛問「韓國男人是不是很大男人?」我沒辦法給個黑白分明的答案,只能講幾個故事給大家聽聽…
Thumbnail
<p>中國文字與歷史文化和西方迥異而構成了巨大障礙,因此在歐美成長的人很難真正了解中國。而生長在中國、家人都在中國的人,又因政治因素不見得能得到信任。因此,台灣人的獨特處境,也許反而是個值得好好利用的機遇。</p>
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
超額報酬 = 風險 + 錯誤定價 如果想要獲得超越大盤的報酬,勢必需要理解超額報酬是如何得到的?未來是否會有失效的可能性?本篇文章將說明想要打造績效超越市場的策略或是選股標準,所注意的要點以及其背後的原理。
Thumbnail
每家偉大的企業,都隱藏著不為人知的秘密
Thumbnail
這個理論太重要了,而且在我寫作這篇文章時,我用google在繁體中文網站上並沒有看到有文章好好介紹「誘因敏感化理論」。當然,跟成癮、戒毒有關的專業人員、研究者,一定知道這是什麼。但,這麼重要的理論,在中文網路世界如果沒有常被提到,對台灣科普、心普的推廣,是很可惜的事情。
Thumbnail
投資風險控管比較強調須控制持股比例,但這並不單純只屬於投資人自己控制的部分,而是與外在變數有很大的關聯性,外在環境不佳,才會讓投資人降低持股比例,中間涉及對於市場的判斷,對於市場的判斷能力才是關鍵
Thumbnail
想像與現實的差距才是風險衍生的地方,股價出現漲勢是因為投資人想像未來企業獲利會變好,萬一現實不如想像所預期才是風險,投資人必須理解現實是甚麼情況,還得瞭解市場對於未來的想像是甚麼,才能知道想像與現實是否存在明顯差距,及其中可能的風險危機。
Thumbnail
這個決心就像千年岩石一般堅硬,毫無妥協的餘地。她的存在和文學信念之間,夾不進一絲毫的空隙。
Thumbnail
  自清朝結束後,中國本部的北京政府無力亦無心干預新疆事務,新疆形同政治自中國獨立出去,形同一閉關自守、自給自足的獨立王國。自民國元年(1912)到十七年(1928),統治這一個地方的人,是前清官僚出身的楊增新。他如何能保持新疆不受外力、軍閥進攻,維持內部十七年的長治久安呢?
Thumbnail
嫁給韓國老公之後,許多人愛問「韓國男人是不是很大男人?」我沒辦法給個黑白分明的答案,只能講幾個故事給大家聽聽…
Thumbnail
<p>中國文字與歷史文化和西方迥異而構成了巨大障礙,因此在歐美成長的人很難真正了解中國。而生長在中國、家人都在中國的人,又因政治因素不見得能得到信任。因此,台灣人的獨特處境,也許反而是個值得好好利用的機遇。</p>