Add batch tool (still working)
This commit is contained in:
34
KissMeBatch/Package.swift
Normal file
34
KissMeBatch/Package.swift
Normal file
@@ -0,0 +1,34 @@
|
||||
// swift-tools-version: 5.8
|
||||
// The swift-tools-version declares the minimum version of Swift required to build this package.
|
||||
|
||||
import PackageDescription
|
||||
|
||||
let package = Package(
|
||||
name: "KissMeBatch",
|
||||
platforms: [
|
||||
.macOS(.v13), .iOS(.v14), .tvOS(.v14)
|
||||
],
|
||||
products: [
|
||||
// Products define the executables and libraries a package produces, and make them visible to other packages.
|
||||
.executable(
|
||||
name: "KissMeBatch",
|
||||
targets: ["KissMeBatch"]),
|
||||
],
|
||||
dependencies: [
|
||||
// Dependencies declare other packages that this package depends on.
|
||||
//.package(url: "../KissMe", from: "1.0.0"),
|
||||
.package(path: "../KissMe"),
|
||||
],
|
||||
targets: [
|
||||
// Targets are the basic building blocks of a package. A target can define a module or a test suite.
|
||||
// Targets can depend on other targets in this package, and on products in packages this package depends on.
|
||||
.executableTarget(
|
||||
name: "KissMeBatch",
|
||||
dependencies: ["KissMe"],
|
||||
path: "Sources"),
|
||||
.testTarget(
|
||||
name: "KissMeBatchTests",
|
||||
dependencies: ["KissMeBatch"],
|
||||
path: "Tests"),
|
||||
]
|
||||
)
|
||||
64
KissMeBatch/README.md
Normal file
64
KissMeBatch/README.md
Normal file
@@ -0,0 +1,64 @@
|
||||
# KissMeBatch
|
||||
|
||||
KissMeBatch 는 command line batch 작업을 위해서 특별하게 구현된 도구입니다.
|
||||
|
||||
KISS 의 REST API 가 30 tps 로 제한이 있기 때문에, 동시에 여러 process 에서 batch 작업을 수행하다가, tps 제한에 걸려서 API 호출이 실패하는 것을 막기 위함입니다.
|
||||
|
||||
## Features
|
||||
|
||||
이 도구는 다음과 같은 기능을 지원합니다.
|
||||
|
||||
* job 의 반복수행 주기를 설정합니다. (일/시간/분/초) 단위로 설정할 수 있습니다.
|
||||
* 특정 요일에만 수행되도록 week day 를 지정할 수 있습니다. (ex. 월~금)
|
||||
* 주식 휴장일 여부를 체크하여 수행하지 않도록 지정할 수 있습니다. 이를 위해선 **data/holiday.csv** 가 필요로 합니다.
|
||||
* job 마다 처리 결과를 알 수 있도록 console logging 을 지원합니다.
|
||||
* job 을 시작하기 전에, 이미 수행중인 process 가 존재하면 wait or kill 을 수행합니다.
|
||||
* batch.json 의 설정 파일을 주기적으로 reloading 하여 새롭게 job 을 재구성합니다. (10초마다 확인)
|
||||
|
||||
## batch.json
|
||||
|
||||
batch.json 은 다음과 같은 형식으로 구성합니다.
|
||||
|
||||
```json
|
||||
{
|
||||
"groups": [{
|
||||
"maxTps": 29,
|
||||
"jobs": [{
|
||||
"name": "Candle minute",
|
||||
"startAt": "2023-06-14 18:30:00",
|
||||
"endAt": "23:59:00",
|
||||
"interval": "1D",
|
||||
"weeks": ["MON", "TUE", "WED", "THU", "FRI"],
|
||||
"estimatedTps": 29,
|
||||
"command": "KissMeConsole"
|
||||
}]
|
||||
}]
|
||||
}
|
||||
```
|
||||
|
||||
### `groups`
|
||||
|
||||
* `maxTps`
|
||||
* groups 에는 각 group 내의 작업이 동시에 실행될 때, maxTps 에 제한이 걸리지 않도록 조정합니다.
|
||||
* 한개의 job 이 maxTps 를 모두 차지 않지 않도록 설계하는 것이 중요합니다.
|
||||
* `jobs`
|
||||
* 하나의 group 으로 묶을 job 설정합니다.
|
||||
|
||||
### `jobs`
|
||||
|
||||
* `name`
|
||||
* jobs 에는 job name 을 설정할 수 있습니다. console logging 에서 이를 바탕으로 로그를 출력합니다.
|
||||
* `startAt`
|
||||
* startAt 은 job 의 시작 시간을 지정합니다. 만약 이 값이 생략되어 있다면, 현재 시간이 시작 시간입니다.
|
||||
* startAt 은 **yyyy-MM-dd HH:mm:ss** 또는 **HH:mm:ss** 로 지정할 수 있습니다.
|
||||
* `endAt`
|
||||
* endAt 은 job 의 종료 시간을 지정합니다. 이 시간 이후에는 job 을 수행하지 않습니다.
|
||||
* endAt 은 **yyyy-MM-dd HH:mm:ss** 또는 **HH:mm:ss** 로 지정할 수 있습니다.
|
||||
* `interval`
|
||||
* interval 은 startAt 에서 job 을 처음 수행한 이후에 다음 job 을 언제 시작할지 지정하는 대기 시간입니다.
|
||||
* `weeks`
|
||||
* weeks 은 job 이 수행될 요일을 제한합니다. 만약 아무런 설정이 없다면, 어느 요일이든 수행합니다.
|
||||
* `estimatedTps`
|
||||
* 지정된 command 가 차지하게될 tps 를 설정합니다. 만약 아무런 값이 없다면, 기본 값으로 1로 설정됩니다.
|
||||
* `command`
|
||||
* job 이 수행하게 될 명령어 입니다.
|
||||
161
KissMeBatch/Sources/KissBatch.swift
Normal file
161
KissMeBatch/Sources/KissBatch.swift
Normal file
@@ -0,0 +1,161 @@
|
||||
//
|
||||
// KissBatch.swift
|
||||
// KissMeBatch
|
||||
//
|
||||
// Created by ened-book-m1 on 2023/06/12.
|
||||
//
|
||||
|
||||
import Foundation
|
||||
import KissMe
|
||||
|
||||
|
||||
struct Batch: Codable {
|
||||
let groups: [Group]
|
||||
|
||||
struct Group: Codable {
|
||||
let maxTps: Int
|
||||
let jobs: [Job]
|
||||
}
|
||||
|
||||
struct Job: Codable {
|
||||
let name: String // Job's name
|
||||
private let startAt: String // yyyy-MM-dd HH:mm:ss or HH:mm:ss
|
||||
private let endAt: String // yyyy-MM-dd HH:mm:ss or HH:mm:ss
|
||||
private let interval: String // 1D, 1H, 1M, 1S
|
||||
let weeks: [String] // SUN, MON, TUE, WED, THU, FRI, SAT
|
||||
let estimatedTps: Int // Estimated tps for this command
|
||||
let command: String // Command line
|
||||
|
||||
var startDate: Date? {
|
||||
let dateFormatter = DateFormatter()
|
||||
dateFormatter.locale = Locale(identifier: "en_US_POSIX")
|
||||
dateFormatter.dateFormat = "yyyy-MM-dd HH:mm:ss"
|
||||
return dateFormatter.date(from: startAt)
|
||||
}
|
||||
|
||||
var intervalTime: TimeInterval {
|
||||
let baseSeconds: TimeInterval
|
||||
switch interval.suffix(1).uppercased() {
|
||||
case "D": baseSeconds = 24 * 60 * 60
|
||||
case "H": baseSeconds = 60 * 60
|
||||
case "M": baseSeconds = 60
|
||||
case "S": baseSeconds = 1
|
||||
default: baseSeconds = 0
|
||||
}
|
||||
guard let time = Int(interval.prefix(interval.utf8.count-1)) else {
|
||||
return 0
|
||||
}
|
||||
return baseSeconds * TimeInterval(time)
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
|
||||
class KissBatch {
|
||||
|
||||
struct TimerJob {
|
||||
let name: String
|
||||
let timer: Timer
|
||||
}
|
||||
|
||||
var batch: Batch?
|
||||
var timers = [TimerJob]()
|
||||
var lastBatchFileDate: Date?
|
||||
|
||||
private let reloadJobName = "__reload_job__"
|
||||
|
||||
func run() {
|
||||
/// Install reloading job
|
||||
let timer = Timer.scheduledTimer(withTimeInterval: 10, repeats: true) { timer in
|
||||
self.reinstallBatchIfNeeded()
|
||||
}
|
||||
timers.append(TimerJob(name: reloadJobName, timer: timer))
|
||||
timer.fire()
|
||||
|
||||
/// Wait untile exit signal
|
||||
// let semaphore = DispatchSemaphore(value: 0)
|
||||
// semaphore.signal()
|
||||
// semaphore.wait()
|
||||
}
|
||||
|
||||
private var batchFileUrl: URL {
|
||||
URL.currentDirectory().appending(path: "batch.json")
|
||||
}
|
||||
|
||||
private func loadBatch() throws {
|
||||
let data = try Data(contentsOf: batchFileUrl, options: .uncached)
|
||||
let batch = try JSONDecoder().decode(Batch.self, from: data)
|
||||
self.batch = batch
|
||||
}
|
||||
|
||||
private func installBatch() {
|
||||
guard let batch = batch else { return }
|
||||
for group in batch.groups {
|
||||
for job in group.jobs {
|
||||
let timer = Timer.scheduledTimer(withTimeInterval: job.intervalTime, repeats: true) { timer in
|
||||
self.runJob(job, group: group)
|
||||
}
|
||||
|
||||
timers.append(TimerJob(name: job.name, timer: timer))
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
private func reinstallBatchIfNeeded() {
|
||||
do {
|
||||
/// Check last save file date
|
||||
let lastDate = try FileManager.default.modificationDate(atPath: batchFileUrl.path)
|
||||
guard lastBatchFileDate != lastDate else {
|
||||
return
|
||||
}
|
||||
|
||||
try loadBatch()
|
||||
|
||||
removeAllTimers()
|
||||
installBatch()
|
||||
|
||||
lastBatchFileDate = lastDate
|
||||
|
||||
} catch {
|
||||
print(error)
|
||||
return
|
||||
}
|
||||
}
|
||||
|
||||
private func runJob(_ job: Batch.Job, group: Batch.Group) {
|
||||
// NSFileHandle()
|
||||
// NSPipe()
|
||||
/*
|
||||
let task = Process()
|
||||
task.launchPath = URL.currentDirectory().path
|
||||
task.arguments = [job.command]
|
||||
task.standardOutput = outputPipe
|
||||
|
||||
outputPipe.fileHandleForReading.waitForDataInBackgroundAndNotify()
|
||||
|
||||
_ = interruptSignal.once {
|
||||
if task.isRunning {
|
||||
task.interrupt()
|
||||
}
|
||||
}
|
||||
|
||||
signal(SIGKILL) { signal in
|
||||
print("ending with signal: \(signal)")
|
||||
interruptSignal.emit()
|
||||
}
|
||||
*/
|
||||
}
|
||||
|
||||
private func removeAllTimers() {
|
||||
timers.forEach( { $0.timer.invalidate() })
|
||||
timers.removeAll()
|
||||
}
|
||||
}
|
||||
|
||||
|
||||
extension FileManager {
|
||||
func modificationDate(atPath path: String) throws -> Date {
|
||||
let attributes = try attributesOfItem(atPath: path)
|
||||
return attributes[.modificationDate] as! Date
|
||||
}
|
||||
}
|
||||
10
KissMeBatch/Sources/main.swift
Normal file
10
KissMeBatch/Sources/main.swift
Normal file
@@ -0,0 +1,10 @@
|
||||
//
|
||||
// main.swift
|
||||
// KissMeBatch
|
||||
//
|
||||
// Created by ened-book-m1 on 2023/06/12.
|
||||
//
|
||||
|
||||
import Foundation
|
||||
|
||||
KissBatch().run()
|
||||
Reference in New Issue
Block a user