Add batch tool (still working)

This commit is contained in:
2023-06-14 23:31:56 +09:00
parent b0315a64e1
commit 2b843bae51
10 changed files with 686 additions and 1 deletions

34
KissMeBatch/Package.swift Normal file
View File

@@ -0,0 +1,34 @@
// swift-tools-version: 5.8
// The swift-tools-version declares the minimum version of Swift required to build this package.
import PackageDescription
let package = Package(
name: "KissMeBatch",
platforms: [
.macOS(.v13), .iOS(.v14), .tvOS(.v14)
],
products: [
// Products define the executables and libraries a package produces, and make them visible to other packages.
.executable(
name: "KissMeBatch",
targets: ["KissMeBatch"]),
],
dependencies: [
// Dependencies declare other packages that this package depends on.
//.package(url: "../KissMe", from: "1.0.0"),
.package(path: "../KissMe"),
],
targets: [
// Targets are the basic building blocks of a package. A target can define a module or a test suite.
// Targets can depend on other targets in this package, and on products in packages this package depends on.
.executableTarget(
name: "KissMeBatch",
dependencies: ["KissMe"],
path: "Sources"),
.testTarget(
name: "KissMeBatchTests",
dependencies: ["KissMeBatch"],
path: "Tests"),
]
)

64
KissMeBatch/README.md Normal file
View File

@@ -0,0 +1,64 @@
# KissMeBatch
KissMeBatch 는 command line batch 작업을 위해서 특별하게 구현된 도구입니다.
KISS 의 REST API 가 30 tps 로 제한이 있기 때문에, 동시에 여러 process 에서 batch 작업을 수행하다가, tps 제한에 걸려서 API 호출이 실패하는 것을 막기 위함입니다.
## Features
이 도구는 다음과 같은 기능을 지원합니다.
* job 의 반복수행 주기를 설정합니다. (일/시간/분/초) 단위로 설정할 수 있습니다.
* 특정 요일에만 수행되도록 week day 를 지정할 수 있습니다. (ex. 월~금)
* 주식 휴장일 여부를 체크하여 수행하지 않도록 지정할 수 있습니다. 이를 위해선 **data/holiday.csv** 가 필요로 합니다.
* job 마다 처리 결과를 알 수 있도록 console logging 을 지원합니다.
* job 을 시작하기 전에, 이미 수행중인 process 가 존재하면 wait or kill 을 수행합니다.
* batch.json 의 설정 파일을 주기적으로 reloading 하여 새롭게 job 을 재구성합니다. (10초마다 확인)
## batch.json
batch.json 은 다음과 같은 형식으로 구성합니다.
```json
{
"groups": [{
"maxTps": 29,
"jobs": [{
"name": "Candle minute",
"startAt": "2023-06-14 18:30:00",
"endAt": "23:59:00",
"interval": "1D",
"weeks": ["MON", "TUE", "WED", "THU", "FRI"],
"estimatedTps": 29,
"command": "KissMeConsole"
}]
}]
}
```
### `groups`
* `maxTps`
* groups 에는 각 group 내의 작업이 동시에 실행될 때, maxTps 에 제한이 걸리지 않도록 조정합니다.
* 한개의 job 이 maxTps 를 모두 차지 않지 않도록 설계하는 것이 중요합니다.
* `jobs`
* 하나의 group 으로 묶을 job 설정합니다.
### `jobs`
* `name`
* jobs 에는 job name 을 설정할 수 있습니다. console logging 에서 이를 바탕으로 로그를 출력합니다.
* `startAt`
* startAt 은 job 의 시작 시간을 지정합니다. 만약 이 값이 생략되어 있다면, 현재 시간이 시작 시간입니다.
* startAt 은 **yyyy-MM-dd HH:mm:ss** 또는 **HH:mm:ss** 로 지정할 수 있습니다.
* `endAt`
* endAt 은 job 의 종료 시간을 지정합니다. 이 시간 이후에는 job 을 수행하지 않습니다.
* endAt 은 **yyyy-MM-dd HH:mm:ss** 또는 **HH:mm:ss** 로 지정할 수 있습니다.
* `interval`
* interval 은 startAt 에서 job 을 처음 수행한 이후에 다음 job 을 언제 시작할지 지정하는 대기 시간입니다.
* `weeks`
* weeks 은 job 이 수행될 요일을 제한합니다. 만약 아무런 설정이 없다면, 어느 요일이든 수행합니다.
* `estimatedTps`
* 지정된 command 가 차지하게될 tps 를 설정합니다. 만약 아무런 값이 없다면, 기본 값으로 1로 설정됩니다.
* `command`
* job 이 수행하게 될 명령어 입니다.

View File

@@ -0,0 +1,161 @@
//
// KissBatch.swift
// KissMeBatch
//
// Created by ened-book-m1 on 2023/06/12.
//
import Foundation
import KissMe
struct Batch: Codable {
let groups: [Group]
struct Group: Codable {
let maxTps: Int
let jobs: [Job]
}
struct Job: Codable {
let name: String // Job's name
private let startAt: String // yyyy-MM-dd HH:mm:ss or HH:mm:ss
private let endAt: String // yyyy-MM-dd HH:mm:ss or HH:mm:ss
private let interval: String // 1D, 1H, 1M, 1S
let weeks: [String] // SUN, MON, TUE, WED, THU, FRI, SAT
let estimatedTps: Int // Estimated tps for this command
let command: String // Command line
var startDate: Date? {
let dateFormatter = DateFormatter()
dateFormatter.locale = Locale(identifier: "en_US_POSIX")
dateFormatter.dateFormat = "yyyy-MM-dd HH:mm:ss"
return dateFormatter.date(from: startAt)
}
var intervalTime: TimeInterval {
let baseSeconds: TimeInterval
switch interval.suffix(1).uppercased() {
case "D": baseSeconds = 24 * 60 * 60
case "H": baseSeconds = 60 * 60
case "M": baseSeconds = 60
case "S": baseSeconds = 1
default: baseSeconds = 0
}
guard let time = Int(interval.prefix(interval.utf8.count-1)) else {
return 0
}
return baseSeconds * TimeInterval(time)
}
}
}
class KissBatch {
struct TimerJob {
let name: String
let timer: Timer
}
var batch: Batch?
var timers = [TimerJob]()
var lastBatchFileDate: Date?
private let reloadJobName = "__reload_job__"
func run() {
/// Install reloading job
let timer = Timer.scheduledTimer(withTimeInterval: 10, repeats: true) { timer in
self.reinstallBatchIfNeeded()
}
timers.append(TimerJob(name: reloadJobName, timer: timer))
timer.fire()
/// Wait untile exit signal
// let semaphore = DispatchSemaphore(value: 0)
// semaphore.signal()
// semaphore.wait()
}
private var batchFileUrl: URL {
URL.currentDirectory().appending(path: "batch.json")
}
private func loadBatch() throws {
let data = try Data(contentsOf: batchFileUrl, options: .uncached)
let batch = try JSONDecoder().decode(Batch.self, from: data)
self.batch = batch
}
private func installBatch() {
guard let batch = batch else { return }
for group in batch.groups {
for job in group.jobs {
let timer = Timer.scheduledTimer(withTimeInterval: job.intervalTime, repeats: true) { timer in
self.runJob(job, group: group)
}
timers.append(TimerJob(name: job.name, timer: timer))
}
}
}
private func reinstallBatchIfNeeded() {
do {
/// Check last save file date
let lastDate = try FileManager.default.modificationDate(atPath: batchFileUrl.path)
guard lastBatchFileDate != lastDate else {
return
}
try loadBatch()
removeAllTimers()
installBatch()
lastBatchFileDate = lastDate
} catch {
print(error)
return
}
}
private func runJob(_ job: Batch.Job, group: Batch.Group) {
// NSFileHandle()
// NSPipe()
/*
let task = Process()
task.launchPath = URL.currentDirectory().path
task.arguments = [job.command]
task.standardOutput = outputPipe
outputPipe.fileHandleForReading.waitForDataInBackgroundAndNotify()
_ = interruptSignal.once {
if task.isRunning {
task.interrupt()
}
}
signal(SIGKILL) { signal in
print("ending with signal: \(signal)")
interruptSignal.emit()
}
*/
}
private func removeAllTimers() {
timers.forEach( { $0.timer.invalidate() })
timers.removeAll()
}
}
extension FileManager {
func modificationDate(atPath path: String) throws -> Date {
let attributes = try attributesOfItem(atPath: path)
return attributes[.modificationDate] as! Date
}
}

View File

@@ -0,0 +1,10 @@
//
// main.swift
// KissMeBatch
//
// Created by ened-book-m1 on 2023/06/12.
//
import Foundation
KissBatch().run()